Concepto técnico
Gobernanza de la IA
Conjunto de mecanismos —regulatorios, técnicos, sociales— para orientar el desarrollo y despliegue de la IA al bien común
Definición
Conjunto de mecanismos institucionales, regulatorios, técnicos y participativos orientados a garantizar que el desarrollo y despliegue de la IA sirva al bien común y respete la dignidad humana. Incluye marcos jurídicos (AI Act, leyes nacionales), estándares técnicos (auditorías, model cards, sistemas de trazabilidad), procesos democráticos (participación de comunidades afectadas, consulta multistakeholder) y mecanismos de rendición de cuentas (apelación, reparación).
Glosa teológica
Desde la DSI, la gobernanza de la IA es la aplicación del principio de subsidiariedad (ningún actor único debe orientar los procesos) más el principio de solidaridad (los más vulnerables tienen voz). Es la traducción institucional del 'tramo de muralla' de Nehemías: cada actor (Estados, instituciones supranacionales, empresas, sociedad civil, comunidades de fe, academia) tiene su parte en la gobernanza.
Glosa técnica
Marcos contemporáneos relevantes: EU AI Act (Reglamento (UE) 2024/1689) con clasificación por riesgo, FRIA (art. 27), transparencia (art. 13), supervisión humana (art. 14); Council of Europe Framework Convention on AI (2024); AI Bill of Rights (EEUU, Office of Science and Technology Policy, 2022); UN High-Level Advisory Body on AI. Estándares técnicos: NIST AI Risk Management Framework, ISO/IEC 42001. Iniciativas multistakeholder: Partnership on AI, Frontier Model Forum. El concepto multi-actor governance se opone explícitamente a 'autorregulación' o 'unilateralismo regulatorio'.
Tratamiento en la encíclica
Aparece en el Cap. III §106 al hablar de la gobernanza compartida de la IA. Subyace al bloque de gobernanza del Cap. III (§102-111) y al Cap. II §71-72 donde el principio de subsidiariedad se reactualiza para el contexto digital: 'auditorías independientes, transparencia en los algoritmos, acceso equitativo a los datos, herramientas de apelación'. La encíclica respalda doctrinalmente la gobernanza multi-actor pero sin prescribir un modelo regulatorio específico.
Apariciones en el texto 3
- §71 El nivel superior no es el Estado, sino todo gran actor económico y tecnológico que ejerce un poder fáctico sobre las condiciones de la vida común.
- §72 En las decisiones que se refieren a los flujos económicos, las plataformas digitales, la gestión de los datos y los algoritmos, no se puede dejar que pocos actores por sí solos orienten los procesos.
- §106 Existe a menudo un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas, los controles y las instituciones.
Conceptos relacionados
Referencias externas
- ↗ EU AI Act — Reglamento (UE) 2024/1689
Primer marco regulatorio integral de IA basado en clasificación por riesgo.
- ↗ Council of Europe — Framework Convention on AI (2024)
Primer tratado internacional sobre IA, derechos humanos y democracia.
- ↗ NIST — AI Risk Management Framework (2023)
Marco voluntario de gestión de riesgos en IA con amplia adopción.