LORENA PÉREZ CAMPILLO
Índice
ABREVIATURAS 15
PRÓLOGO 17
Teresa Rodríguez de las Heras Ballell*
INTRODUCCIÓN 23
CAPÍTULO 1.
LA ECONOMÍA DE LOS DATOS DESDE EL PUNTO DE VISTA JURÍDICO: PRINCIPIOS PARA LA GESTIÓN Y GOBERNANZA DE DATOS 27
1. LA ECONOMÍA DEL DATO 28
1.1. El dataísmo 33
1.2. Ecosistemas y soluciones basadas en datos. 37
1.3. Monetización como estrategia de nuevo modelo de negocio 43
1.3. La Propiedad Intelectual del dato. Las bases de datos 46
2. TIPOS DE BASES DE DATOS 53
2.1. Bases de datos relacionales (RDBMS) 54
2.2. Bases de datos NoSQL 54
2.3. Bases de datos de objetos 55
3. DISEÑO, ESTRUCTURA Y GESTIÓN DE BASES DE DATOS 57
3.1. Creación y administración de bases de datos 58
3.2. La importancia del privacy by design 59
3.3. Aplicación de la técnica K-anonimización sobre las bases de datos relacionales 61
3.4. Aplicación de la técnica KitPriv: Toolkit de anonimización en las bases de datos relacionales 64
3.5. La Evaluación de Impacto de Protección de Datos (EIPD) para bases de datos: Interpretaciones 66
3.6. Derechos de los interesados en la bases de datos. El derecho al olvido en modelos de lenguaje grandes (LLM) GPT3 o GPT4 68
3.7. Bases de datos y cloud computing: Homologación de proveedores cloud 71
3.8. Tendencias en seguridad de almacenamiento cloud 73
CAPÍTULO 2.
DISEÑO DE ESTRATEGIAS PARA LA GOBERNANZA DEL DATO 77
1. PASOS GENERALES EN EL PROCESO DE GOBERNANZA DE DATOS 79
2. PERSONAL IMPLICADO EN LOS PROCESOS DE GOBERNANZA DE DATOS Y GESTIÓN DE USUARIOS Y PERMISOS 81
3. GESTIÓN DE USUARIOS Y PERMISOS 87
4. LA GOBERNANZA Y CUMPLIMIENTO NORMATIVO EN PROTECCIÓN DE DATOS PERSONALES 89
5. TIPOLOGÍA DE DATOS 92
CAPÍTULO 3.
GOBERNANZA DE DATOS EN EL SECTOR PRIVADO Y PÚBLICO 97
1. GOBERNANZA DE DATOS EN EL SECTOR PRIVADO 98
1.1 La gobernanza de datos y la industrialización 98
1.2. Desafíos abordados por una gobernanza de datos eficaz 100
1.3.El Data Sharing Agreement (DSA) y herramientas de data gobernance 102
1.4. Ciclo de vida proyecto de análisis de datos y gobernanza de datos: preparación de datos y anonimización 106
1.5. Estudio de Clearview. Implicaciones jurídico-éticas en torno a la gobernanza de datos 109
2. GOBERNANZA DE DATOS EN EL SECTOR PÚBLICO 113
2.1 La gobernanza de datos en el Sector Público. Errores frecuentes 113
2.2. La calidad de los datos y la limpieza. Ejemplos y buenas prácticas 115
2.3. Los datos de las Administraciones Públicas y las Comunidades Autónomas en España 116
2.4. Los datos abiertos 119
2.5. La Oficina del dato y la gobernanza de los datos 122
CAPÍTULO 4.
RIESGOS ÉTICOS EN EL TRATAMIENTO Y LA GESTIÓN DEL DATO: LA ÉTICA DE LOS DATOS 131
1. ÉTICA, MORAL Y DERECHO EN LA ERA DIGITAL 132
2. ÉTICA DE LOS DATOS EN EL SECTOR PRIVADO 136
2.1. La ética impuesta. Los códigos de conducta. Canal de denuncias 138
2.1.1. Los comités de ética 140
2.1.2. La autoevaluación 140
2.1.3. Certificaciones y sellos de calidad de ética de los datos. 144
2.1.4. Ética desde el diseño 145
2.1.5. Privacidad como valor 149
3. ÉTICA DE DATOS EN EL SECTOR PÚBLICO 153
3.1. Una mirada puesta en el sector salud: Tiempos de Covid-19 156
3.2. Vulnerabilidades de seguridad en hospitales y dispositivos 160
CAPÍTULO 5.
RIESGOS ÉTICOS EN EL TRATAMIENTO Y LA GESTIÓN DEL DATO EN IA 163
1. UNA MIRADA A LA REGULACIÓN EN MATERIA DE IA 164
1.1. Antecedentes regulatorios 165
2.2. El Reglamento General de protección de datos y su impacto (RGPD). 167
2.3. El Reglamento Europeo de IA y su impacto 169
1.3. La normativa en materia de responsabilidad de IA. 176
1.3.1. La Directiva (UE) 2024/2853 productos defectuosos o PLD. 180
1.3.2. Directiva sobre Responsabilidad Civil en materia
de IA. 181
1.4. Otras normativas de interés: DSA, DMA Y DFA y su impacto. 182
2. RIESGOS ÉTICOS DEL DATO: OPACIDAD BLACK BOX Y DISCRIMINACIÓN ALGORÍTMICA. 183
2.1.Definición de opacidad y tipos 189
2.2.Dependencia algorítmica y necesidad de límites 190
2.3. Causas del sesgo discriminatorio 192
2.4. Las propiedades de los algoritmos 196
2.4.1. La no neutralidad de los algoritmos y transparencia de la IA 196
2.4.2. La reformulación de algoritmos como solución y la desidentificación insuficiente 199
3.2.1. ¿Son evitables los sesgos algorítmicos? 200
2.8. Casos de estudio: Caso Compas e Impact 203
3. GUÍA DE DIRECTRICES, REQUISITOS Y MÉTODOS TÉCNICOS PARA DESARROLLADORES DE IA 208
3.1. Requisitos ético-legales para desarrolladores en una IA confiable. 210
3.1.1. Respecto a la Agencia humana y supervisión 210
3.1.2. Respecto a la robustez técnica y seguridad 213
3.1.3. Respecto a la Privacidad y gobierno de datos 215
3.1.4. Respecto al gobierno de datos 219
3.1.5. Respecto a la transparencia 219
3.1.6. Respecto al Bienestar social y ambiental 224
3.1.7. Respecto a la Responsabilidad 227
3.2. Métodos técnicos y no técnicos para IA confiable 228
4. LA PARTICULARIDAD EN IA GENERATIVA EN LA CIENCIA DE DATOS 230
3.1. Riesgos potenciales y éticos específicos en IAG 237
3.2. Riesgos en la gestión del dato en IAG. La importancia de la privacidad y protección de datos 240
3.2.1 Riesgos e incompatibilidad con la normativa europea. Situación OpenAI 243
CAPÍTULO 6.
LA CULTURA DE PRIVACIDAD 249
1. APROXIMACIONES CONCEPTUALES A LA PRIVACIDAD 250
2. CONSTRUYENDO LA CULTURA DE PRIVACIDAD 256
2.1. La implicación, liderazgo de la dirección y los altos mandos en la buena gobernanza de datos 258
2.2. La formación y los canales de comunicación 259
2.3. La importancia de la definición de los roles: La responsabilidad 261
2.4. La transparencia y agilidad en la cultura de privacidad 262
2.5. La interacción del departamento legal con el departamento IT 264
2.6. La cultura extensiva a clientes y proveedores 265
2.7. La resistencia al cambio y la motivación 266
3. LA IMPORTANCIA DE LAS AUDITORÍAS ALGORÍTMICAS Y LA CULTURA DE PRIVACIDAD 267
4. LAS CERTIFICACIONES Y LA CULTURA DE PRIVACIDAD Y SEGURIDAD 270
4.1. La norma ISO/IEC 27001 271
4.2. La norma ISO/IEC 42001 273
4.3. El certificado de Esquema Nacional de Seguridad 275
4.4. Otras ISO. 276
Conclusión final 279
BIBLIOGRAFÍA 283
Este libro innovador, escrito por una jurista, explora la economía de los datos desde una perspectiva ético-legal, ofreciendo una visión integral de los desafíos y oportunidades de la era digital. Partiendo de conceptos clave como el dataísmo y la monetización de datos, la obra profundiza en la gestión y gobernanza, abordando cuestiones esenciales como el diseño de bases de datos, la privacidad desde el diseño y las técnicas de anonimización. A través de estrategias prácticas y estudios de caso, se analiza la gobernanza de datos tanto en el sector público como en el privado, destacando la importancia de una gestión responsable. El libro examina los riesgos éticos del tratamiento de datos, con especial atención a la inteligencia artificial y los grandes modelos de lenguaje, y dedica un capítulo a la regulación de la IA, analizando el impacto del RGPD y el nuevo Reglamento europeo de IA. Temas cruciales como la opacidad algorítmica, los sesgos y la necesidad de una IA confiable se abordan en profundidad. La obra concluye subrayando la importancia del liderazgo, la formación y la transparencia para construir una cultura organizacional que respete y proteja los datos personales. Con un enfoque multidisciplinar, este libro es una guía esencial para profesionales del derecho y la tecnología que buscan comprender y afrontar los retos de la economía de los datos en el siglo XXI.
