Concepto técnico
Control humano significativo
Meaningful human control — categoría regulatoria sobre el grado de intervención humana exigible en sistemas autónomos
Definición
Categoría central del debate internacional sobre IA y armas: el grado de intervención humana exigible para que la decisión sobre el uso de la fuerza siga siendo moralmente atribuible a una persona. No se trata de 'humano en el bucle' como mera formalidad, sino de capacidad real para juicio prudencial, modificación, suspensión e intervención.
Glosa teológica
Conecta con la doctrina católica sobre la responsabilidad moral: ningún acto moralmente significativo puede ser delegado completamente. La persona que pulsa el botón no puede esconderse detrás del algoritmo; pero tampoco basta que haya una persona pulsando el botón si esa persona no tiene capacidad real de discernir y decidir. El control debe ser significativo, no nominal.
Glosa técnica
El término meaningful human control fue formalizado por Article 36 (UK NGO) y desarrollado académicamente por Daniele Amoroso & Guglielmo Tamburrini (2018, Filosofia & Questioni Pubbliche). Tres dimensiones operativas: (1) suficiencia de información para el operador, (2) tiempo suficiente para deliberación, (3) capacidad real de modificación/suspensión. Contrasta con esquemas de 'human-on-the-loop' (supervisión post-hoc) y 'human-out-of-the-loop' (autonomía total). Está incorporado al debate en el CCW de la ONU.
Tratamiento en la encíclica
Aparece en el Cap. V (§199-200). §199 lo formula como uno de los tres criterios morales: 'el tiempo del juicio moral, que se reduce drásticamente cuando la decisión queda confiada a la velocidad del cálculo'. §200 lo incluye entre las tres exigencias prácticas: 'control humano efectivo sobre la fuerza letal'.
Apariciones en el texto 2
Conceptos relacionados
Referencias externas
- ↗ Daniele Amoroso & Guglielmo Tamburrini — What makes Human Control over Weapon Systems 'Meaningful'?
Formulación académica de referencia de las tres dimensiones del MHC.
- ↗ Article 36 — Killer Robots: UK Government Policy on Fully Autonomous Weapons
ONG que acuñó y desarrolló el término.