Concepto técnico
Accountability
Cadena clara de responsabilidades verificables
Definición
Posibilidad de identificar quién debe 'rendir cuentas' de las decisiones tomadas por un sistema, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas. La encíclica usa la palabra en inglés en el original — gesto inusual.
Glosa teológica
Concepto que traduce al lenguaje contemporáneo la categoría clásica de 'responsabilidad' (capacidad de responder por los propios actos), aplicada ahora a sistemas socio-técnicos complejos donde la cadena causal no es individual.
Glosa técnica
En IA, requiere documentación obligatoria de modelos, trazabilidad de decisiones, identificación clara de actores en cada etapa (entrenamiento, despliegue, autorización, uso). El AI Act europeo formaliza buena parte de esto. NIST AI RMF (EE.UU.) propone marcos voluntarios.
Tratamiento en la encíclica
Introducido en §105 con la palabra inglesa entre paréntesis. La encíclica liga accountability a transparencia y a la posibilidad real de protestar contra una decisión automatizada injusta (§103). En el Cap. IV reaparece como primer criterio para orientar la economía hacia la dignidad: 'decisiones comprensibles, cuestionables y sometidas a control' (§164) y como exigencia para empresas e inversionistas vía due diligence ética preventiva (§179).
Apariciones en el texto 11
- §5 El poder tecnológico adquiere así un rostro inédito, predominantemente 'privado', y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común.
- §71 El nivel superior no es el Estado, sino todo gran actor económico y tecnológico que ejerce un poder fáctico sobre las condiciones de la vida común.
- §72 En las decisiones que se refieren a los flujos económicos, las plataformas digitales, la gestión de los datos y los algoritmos, no se puede dejar que pocos actores por sí solos orienten los procesos.
- §80 La justicia exige que se impida el surgimiento de nuevas formas de exclusión y privación de la libertad.
- §86 La Doctrina social no es sólo una palabra dirigida a la sociedad; es también un examen de conciencia para la Iglesia.
- §89 La escucha de las víctimas de abusos espirituales, económicos, institucionales, sexuales, de poder y de conciencia es parte integrante de un camino de justicia, que comprende el reconocimiento del daño, la reparación justa y la prevención.
- §105 Es esencial que las responsabilidades estén claras en todas las etapas.
- §164 Estos criterios no son un freno a la innovación; en realidad, la hacen viable y humana.
- §179 Cuando estas decisiones convergen, el entorno digital puede transformarse de espacio de depredación en espacio de protección, prevención y promoción de la dignidad.
- §199 Toda tecnología que facilite atacar sin ver el rostro del otro baja el umbral moral del conflicto.
- §200 La decisión de emplear la fuerza letal no puede delegarse en procesos turbios o automatizados, sino que debe permanecer bajo un control humano efectivo, consciente y responsable.
Conceptos relacionados
Referencias externas
- ↗ AI Act europeo — Artículo sobre GPAI
Marco regulatorio europeo con obligaciones de documentación.
- ↗ NIST AI Risk Management Framework
Marco voluntario estadounidense.