Es esencial que las responsabilidades estén claras en todas las etapas.
Introduce el concepto de accountability (palabra en inglés en el original, gesto inusual). Para que la IA sirva al bien común se requiere que las responsabilidades estén claras en todas las etapas: diseño, programación, uso, decisión. La opacidad técnica dificulta atribuir responsabilidad y corregir errores. Accountability = posibilidad de identificar quién rinde cuentas, motivar decisiones, controlarlas, cuestionarlas y remediar daños.
Accountability en gobernanza de IA: cadena verificable de responsabilidades, donde para cada decisión automatizada se puede identificar quién entrenó el modelo, quién lo desplegó, quién autorizó su uso y quién es responsable de remediar errores. El AI Act europeo formaliza buena parte de esto vía documentación obligatoria de modelos de propósito general. NIST AI Risk Management Framework (EE.UU.) propone marcos voluntarios similares.