DOMINGUEZ ALVAREZ JOSE LUIS
Prólogo 15
Abreviaturas 19
Introducción 23
I. El fenómeno de la Inteligencia Artificial: la toma de decisiones automatizadas y su implicación para la esfera vital de la ciudadanía 29
1. Análisis de las diferentes oleadas digitalizadoras de la sociedad: la preponderancia del «machine learning» 38
2. Aproximación a las distintas técnicas de Inteligencia Artificial 47
2.1. Primera constatación: existen distintas categorías de inteligencia artificial 49
2.2. Segunda constatación: la inteligencia artificial es una suma de diferentes métodos y técnicas 51
3. Ciclo de vida de las herramientas de Inteligencia Artificial 59
4. Tratamiento de datos personales mediante el empleo de soluciones de Inteligencia Artificial 63
5. Distribución de roles y responsabilidades en el tratamiento de datos personales en aquellas herramientas que emplean Inteligencia Artificial 72
II. Ética digital y derecho como herramientas indispensables para garantizar los derechos y libertades fundamentales de la ciudadanía ante el avance tecnológico 77
1. El creciente protagonismo de la ética digital y sus múltiples manifestaciones 80
1.1. La necesaria «reserva de humanidad» 93
1.2. La conveniencia de combatir los sesgos presentes en los sistemas algorítmicos 97
1.3. El problema de la explicabilidad de la inteligencia artificial 104
2. Gestión del riesgo para los derechos y libertades fundamentales de la ciudadanía 112
2.1. La privacidad y el desconocimiento de los derechos subjetivos en materia de protección de datos frente a la IA y las decisiones automatizadas 116
2.2. De la aparición de nuevas formas de desigualdad y la quiebra del principio de no discriminación 120
2.3. De la afectación de la tutela judicial efectiva y la urgencia de establecer garantías concretas frente al uso de la inteligencia artificial 127
2.4. Del binomio libertad-seguridad desde la perspectiva tecnológica. A propósito de la exponencial aplicación de las técnicas de reconocimiento facial 134
III. La normativa de protección de datos personales como dique de contención para preservar la dignidad de la persona ante el exponencial desarrollo de la Inteligencia Artificial 145
1. La renovada vigencia de los principios de tratamiento de datos personales ante las abruptas transformaciones propiciadas por las técnicas de Inteligencia Artificial 146
2. Legitimación y licitud del tratamiento de datos personales 152
3. Algunas premisas acerca del ejercicio de los derechos subjetivos en materia de protección de datos de la ciudadanía 155
4. El régimen jurídico de la toma de decisiones automatizadas y el uso de sistemas de inteligencia artificial en el marco del derecho a la protección de datos personales 162
4.1. Derecho a obtener intervención humana por parte del responsable 164
4.2. Derecho a expresar el punto de vista del usuario 166
4.3. Derecho a impugnar la decisión 167
5. El necesario impulso de la privacidad desde el diseño y por defecto 169
6. La importancia de la gestión del riesgo para los derechos y libertades y el protagonismo capital de las evaluaciones de impacto sobre la privacidad 172
7. Cumplimiento de las condiciones para poder realizar transferencias internacionales de datos 177
IV. Hacia la gobernanza algorítmica: el necesario establecimiento de límites y controles a la inteligencia artificial 179
1. Desarrolladores tecnológicos, sistemas algorítmicos y humanismo digital 182
2. Liberalización del código algorítmico versus propiedad intelectual 183
3. Establecimiento de sistemas de auditorías 186
4. Procesos de evaluación pública 188
5. Código ético y normalización algorítmica 190
6. Composición de equipos de desarrollo tecnológico interdisciplinares y participación social 195
V. El protagonismo de la Agencia Española de Protección de Datos como garante de los derechos fundamentales de la ciudadanía ante la algoritmización de la sociedad: más allá de la privacidad 199
1. Una nueva organización administrativa para afrontar los desafíos del avance digital: la importancia capital de la División de Innovación Tecnológica de la AEPD 207
2. El despliegue del Pacto Digital para la Protección de las Personas 211
3. La adopción de novedosas herramientas para combatir las nuevas formas de desigualdad en la red: el Canal Prioritario, una manifestación de celeridad administrativa 217
VI. Nuevas garantías institucionales frente al avance de la transformación digital. En especial los sistemas algorítmicos 223
1. La Agencia Estatal de Administración Digital 230
2. La Agencia Española de Supervisión de Inteligencia Artificial 231
VII. Algunas reflexiones acerca de los nuevos instrumentos normativos en materia de Inteligencia Artificial que se vislumbran en el horizonte europeo y en el contexto internacional 233
1. Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial 236
1.1. Disposiciones generales: objeto, ámbito y definiciones 239
1.2. Prácticas de inteligencia artificial prohibidas 242
1.3. El enfoque de riesgo como piedra angular de la nueva ordenación europea de inteligencia artificial 246
1.4. Obligaciones de transparencia para determinados sistemas de inteligencia artificial 258
1.5. Medidas de apoyo a la innovación 259
1.6. El sistema europeo de gobernanza y cumplimiento normativo en materia de Inteligencia Artificial 260
1.7. La importancia de la autorregulación personificada en los códigos de conducta 263
1.8. Disposiciones finales 264
2. Regímenes comparados: aproximación a otras iniciativas legislativas para embridar el despliegue de la inteligencia artificial 266
2.1. República Popular China: Opiniones orientativas sobre el fortalecimiento de la gobernanza integral de los algoritmos del servicio de información de Internet (¹ØÓÚ ¼ÓÇ¿ »¥ÁªÍø ÐÅÏ¢ ·þÎñ Ëã·¨ ×ÛºÏ ÖÎÀí µÄ Ö¸µ¼ Òâ¼û) 267
2.2. Estados Unidos: Ley de Responsabilidad Algorítmica 270
VIII. Bibliografía 275
Los avances en la potencia informática, la disponibilidad de enormes cantidades de datos y el diseño de nuevos sistemas algorítmicos han permitido un extraordinario despegue de la inteligencia artifi cial. Sin embargo, esta poderosa herramienta genera numerosas dudas entre los usuarios, investigadores, especialistas, autoridades y la propia industria encargada de su desarrollo. Con la finalidad de disipar los interrogantes que envuelven el prodigioso avance de las nuevas tecnologías, es urgente que el poder público ofrezca una respuesta decidida, tendente al establecimiento de un sólido marco ético y normativo que refuerce la protección de los derechos
individuales y colectivos, con el propósito de garantizar la inclusión y el bienestar social del conjunto de la ciudadanía. Esta apremiante cuestión exige una minuciosa labor jurídica orientada no solamente a la articulación de garantías que permitan salvaguardar la plena vigencia y efectividad del elenco de derechos fundamentales ya reconocidos, sino también la identifi cación de reformas legales necesarias, así como de las lagunas normativas que requieran una regulación adicional para otorgar seguridad jurídica, elemento indispensable para el fomento de la innovación digital.
Sentada esta premisa, la presente obra aspira a delimitar los contornos propios de la regulación jurídica que está por llegar en el viejo continente europeo para embridar el avance de los sistemas algorítmicos, al tiempo que se detiene en el análisis comparado
de otra serie de iniciativas normativas propias de otras latitudes, todo ello con el firme propósito de visibilizar y poner en valor la trascendencia de alcanzar un ecosistema digital antropocéntrico, ético, sostenible, igualitario y respetuoso para con los derechos y valores fundamentales que integran la concepción de ciudadanía europea.
