ASENCIO GALLEGO, JOSÉ MARÍA
Índice
Abreviaturas 13
Prólogo 17
Introducción 23
Introduction 29
Capítulo Primero. La Inteligencia Artificial. Contexto técnico, jurídico y económico 35
I. EVOLUCIÓN DE LA INTELIGENCIA ARTIFICIAL 35
1. Antecedentes de la Inteligencia Artificial y computación determinista 35
2. Inteligencia Artificial simbólica y determinista 38
3. Inteligencia Artificial basada en el conocimiento y sistemas de expertos 49
4. Inteligencia Artificial probabilística y aprendizaje automático 56
5. Inteligencia Artificial generativa y deep learning: enunciado y remisión 67
II. SISTEMAS DE INTELIGENCIA ARTIFICIAL 72
1. Delimitación conceptual de Inteligencia Artificial 72
1.1. Aproximación funcional al concepto de Inteligencia Artificial 72
1.2. Delimitación negativa del concepto de Inteligencia Artificial 78
2. Elementos estructurales del sistema de Inteligencia Artificial 82
2.1. Sistema, modelo y despliegue: distinción conceptual y operativa 82
2.1.1. Sistema como conjunto operativo 84
2.1.2. Modelo como núcleo inferencial 88
2.1.3. Despliegue como foco del riesgo organizativo 93
2.2. Fases operativas del sistema de inteligencia artificial: diseño, entrenamiento, despliegue y uso 94
2.2.1. Fase de diseño y datos 96
2.2.2. Fases de entrenamiento y validación 101
2.2.3. Fases de despliegue y uso 105
3. Tipología funcional por generación de outputs y grados de autonomía 107
3.1. Función dogmática de la tipología 107
3.2. Criterios de clasificación 108
3.2.1. Criterio A: relativo a la tipología del output generado 109
3.2.2. Criterio B: Función o efecto organizativo del output 112
3.2.3. Criterio C: Intensidad de la intervención humana 114
III. LA INTELIGENCIA GENERATIVA EN PARTICULAR 119
1. Delimitación funcional de la Inteligencia Artificial generativa 119
2. Factores determinantes del auge reciente de la Inteligencia Artificial 123
2.1. Condiciones materiales y técnico infraestructurales 124
2.1.1. Redes neuronales 125
2.1.2. Big Data 127
2.1.3. Aumento de la capacidad de cómputo 130
2.1.4. Arquitectura en la nube 133
2.1.5. Surgimiento de los diferentes tipos de aprendizaje 134
2.1.6. Accesibilidad 137
2.2. Condiciones económicas y organizativas 138
2.2.1. Reducción de costes y economización del tiempo 138
2.2.2. Integración en flujos de trabajo preexistentes 141
2.2.3. Externalización mediante proveedores y servicios 142
IV. ASPECTOS RELEVANTES PARA LOS SISTEMAS DE IA GENERATIVA 144
1. Opacidad estructural, pérdida de la trazabilidad y límites de la explicabilidad 144
2. Inestabilidad del output y falta de previsibilidad 152
3. Alucinaciones y apariencia de fiabilidad 154
4. Delegación de juicio y riesgo organizativo 158
5. Necesidad de control interno: protocolos, límites de uso y supervisión 161
Capítulo Segundo. Marco jurídico de la Inteligencia Artificial generativa 165
I. EVOLUCIÓN NORMATIVA 165
1. Fase inicial: respuesta regulatoria europea o antecedentes pre normativos 165
2 RGPD como elemento normativo transversal 172
3. Transición a la regulación vigente 177
II. EL REGLAMENTO DE INTELIGENCIA ARTIFICIAL 188
1. Introducción 188
2. Conceptos clave y sujetos obligados 193
2.1. Conceptos relevantes 194
2.2. Sujetos obligados 196
2.2.1. Proveedor 196
2.2.2. Responsable del despliegue 199
2.2.3. Importador y distribuidor 202
2.2.4. Representante autorizado 203
2.2.5. Multiplicidad de roles en un mismo sujeto y cambio de rol por modificación sustancial 204
3. Enfoque basado en el riesgo 206
3.1. Prácticas prohibidas 207
3.2. Sistemas de IA de alto riesgo 210
3.2.1. Clasificación como alto riesgo 210
3.2.2. Principales requisitos de los sistemas de alto riesgo 214
3.2.3. Obligaciones por sujeto en sistemas de alto riesgo 223
A) Proveedor 223
B) Responsable del despliegue 230
C) Importador y distribuidor 238
3.3. Riesgo específico de transparencia y riesgo limitado 241
3.4. Riesgo mínimo 244
4. Modelos de ia de propósito general 246
4.1. Delimitación modelo sistema despliegue 246
4.2. Obligaciones principales del proveedor 248
4.3. Modelos con riesgo sistémico 250
Capítulo Tercero. Responsabilidad de administradores ante el uso de la Inteligencia Artificial 255
I. NATURALEZA 255
II. PRESUPUESTOS 269
III. LAS CONDUCTAS. LOS DEBERES FIDUCIARIOS 270
1. Caracterización 270
2. El deber de diligencia 275
2.1. La dimensión cualitativa del deber de diligencia 275
2.1.1. El ámbito del deber de diligencia 275
2.1.2. El modelo de conducta 279
2.1.3. El deber de informarse 283
2.1.4. El deber de vigilancia 301
2.1.5. El deber de investigar 315
2.1.6. El deber de intervenir 323
2.1.7. El deber de adoptar decisiones razonables 326
2.2. La dimensión cuantitativa del deber de diligencia 335
IV. EL DAÑO Y LA RELACIÓN DE CAUSALIDAD 337
V. LA IMPUTABILIDAD 358
VI. LA PRUEBA DE LOS PRESUPUESTOS 364
VII. RESPONSABILIDAD Y PLURALIDAD DE ADMINISTRADORES 376
1. El carácter solidario de la responsabilidad 376
2. El consejo de administración 385
2.1. La distribución funcional 385
2.2. Competencias indelegables del consejo: la gestión de riesgos tecnológicos 387
Conclusiones 395
Conclusions 401
Bibliografía 407
La rápida integración de la Inteligencia Artificial en la actividad empresarial nos lleva a plantear un interrogante de primer orden, ¿obliga este fenómeno a repensar las reglas de la responsabilidad de los administradores sociales? La obra responde combinando una explicación técnica accesible del fenómeno, el análisis del marco normativo europeo, con especial atención al Reglamento (UE) 2024/1689, y la teoría clásica de la responsabilidad de los administradores, para examinar cómo se proyecta el deber de diligencia sobre la sociedad que decide servirse de estos sistemas en sus procesos decisorios. Lejos de reclamar nuevas categorías o una objetivación de la responsabilidad, defiende que el Derecho vigente ofrece cauce suficiente al nuevo fenómeno mediante una lectura renovada de sus presupuestos clásicos. Un trabajo de interés tanto para el estudioso del Derecho mercantil como para quienes hoy asumen la dirección de las empresas.
