Uno de los grandes retos que nos trae la capacidad tecnológica de procesar grandes cantidades de datos es el tratamiento y uso de los datos personales. Ya estamos viendo las delicadas implicaciones del uso de datos por parte de grandes corporaciones, pero ¿cómo afecta a las administraciones públicas?
Cuando se habla y trabaja en las llamadas estrategias basadas en los datos masivos es importante analizar las implicaciones sociales que suponen. Esta mirada desde la ética será cada vez más relevante y nos hemos propuesto comenzar a desenmarañar este asunto en una serie de post acerca de la ética de datos en las administraciones públicas.
Las preguntas básicas
Para afrontar una estrategia de datos en la administración pública se debería partir de una reflexión que al menos tuviese en cuenta las siguientes preguntas:
- ¿Cuál es el propósito y hasta qué punto es relevante?
- ¿Se ha identificado a las personas o comunidades de personas afectadas?
- ¿Se cuenta con una evaluación de los riesgos y limitaciones potenciales?
- ¿Qué podría afectar negativamente (o positivamente) a las personas y a la sociedad?
- ¿Se están comunicando estos riesgos adecuadamente?
- ¿Pueden los afectados interactuar con la organización?
- ¿Cuáles son las medidas para mitigar esos riesgos?
- ¿Existe un plan de revisión de los riesgos?
- ¿Cómo se evalúa hasta cuando es vigente el propósito?
¿Existe una ética de los datos?
Tal y como ocurre en el sector privado, el uso de los datos masivos ha producido en la sociedad la irrupción de una ética fundamentada en estudiar y evaluar los problemas morales relacionados con los datos, teniendo en cuenta la generación, grabación, transformación, procesamiento, difusión, intercambio y uso, así como de los algoritmos, incluyendo la inteligencia artificial, el aprendizaje automático o los robots.
Como ya avanzaba el paper publicado por el Instituto Alan Turing (Floridi, L. and Taddeo, M. (2016). What is data ethics? Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 374(2083), p.20160360.), la ética de los datos surge para formular y respaldar soluciones moralmente buenas (por ejemplo, conductas correctas o valores correctos) basadas en datos o la interacción de los mismos.
Pero no se trata únicamente de tener una visión crítica en un plano teórico. También es necesario entender este proceso como una práctica en la generación de servicios o estrategias basadas en datos masivos. En esa línea encontramos el trabajo de la ODI (The Data Ethics Canvas User Guide, Open Data Institute 2017) en el cual se plantea una primera aproximación práctica al tema, elaborando lo que podríamos llamar guía de buenas prácticas o manual de uso.
Este cambio tecnológico y social pone de relieve las diferentes dimensiones morales de todo tipo de datos, incluso datos que nunca se traducen directamente en información, pero que pueden utilizarse para apoyar acciones o generar comportamientos, por ejemplo.
Cada vez se usan más los datos para generar servicios o bien para mejorar los existentes en la administración pública. Trasladar esa visión de la ética de datos a esos desarrollos es indispensable.
Tres enfoques imprescindibles
A nuestro entender encontramos tres enfoques que a día de hoy se hace imprescindible poner en marcha a la hora de afrontar la transformación de una administración pública basada en los datos.
1. Diseño
Si no se afronta desde el diseño no sirve. Para tener éxito en nuestra labor es necesario introducir la ética desde el diseño, si no es así será casi imposible poder introducir más adelante alguna modificación sustancial que afrontar algunos de los riesgos a los cuales nos enfrentamos.
2. Transparencia
Una vez más, la transparencia. Puede parecer trivial, pero no lo es. Si pensamos en servicios públicos basados en datos, si de verdad creemos en la necesidad de poner en marcha estos servicios basándonos en determinadas premisas éticas, no se entendería si el perceptor del servicio no tiene la capacidad de informarse sobre cómo se ha generado este. Por tanto los algoritmos y métricas utilizados deben ser fácilmente comprendidos, o al menos validados y revisados por personas cualificadas.
3. Evaluación y revisión de los riesgos.
El auge del uso de datos masivos y la irrupción de servicios basados en estos va de la mano de un cambio tecnológico de gran envergadura. Es un magma en continuo cambio y evolución. Atendiendo a la necesidad de adaptarse a esos cambios es imprescindible pensar en fórmulas para evaluar la aplicación ética a nuestra actividad.
Además, y esto es algo importante a tener en cuenta, la propia mirada a un problema o una situación no es siempre la misma. Cambia. Se modifica del mismo modo que sucede en la sociedad y no se entendería como no se actualizan algunas cautelas o como no se adoptan nuevas medidas para atender a algunas de esas nuevas situaciones.
Un camino por recorrer
La asunción de estas pautas no es más que un punto de partida. Se trata de un tema complejo y no exento de cierta controversia. Cuando recibimos cada día noticias de aplicaciones basadas en Inteligencia Artificial o aprendizaje automático, es cuando debemos plantear las implicaciones morales de todo esto y en su caso, evaluar cuáles deben ser las medidas para atender a los posibles riesgos de usar la ciencia de datos en el entorno de las administraciones públicas.
En Gobierto:
- Consolidando la experiencia de usuario online de las administraciones públicas
- El canvas de la participación
- Sistemas de diseño en administraciones públicas
