Concepto técnico
Armas autónomas (LAWS)
Lethal Autonomous Weapon Systems — sistemas de armas con capacidad de selección y empleo de blancos sin intervención humana significativa
Definición
Sistemas de armas que seleccionan y emplean blancos sin intervención humana significativa una vez activados. En la literatura técnica internacional: Lethal Autonomous Weapon Systems (LAWS). La encíclica los aborda como caso paradigmático de delegación letal a algoritmos y formula sobre ellos uno de los juicios doctrinales más categóricos del documento.
Glosa teológica
Para la teología moral católica, la decisión de quitar una vida humana exige discernimiento personal en condiciones de responsabilidad moral. Delegar esa decisión a un sistema artificial implica: (a) ruptura del nexo entre acción y agente moral; (b) ausencia del tiempo del juicio prudencial; (c) tratamiento del adversario como dato procesado, no como persona. Por eso §198 declara: 'no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable'.
Glosa técnica
El debate técnico-jurídico sobre LAWS incluye discusiones sobre meaningful human control (Heyns, Sharkey), predictability (Russell), distinction & proportionality del DIH (Convenios de Ginebra), y propuestas regulatorias en el CCW (Convention on Certain Conventional Weapons). Hay literatura crítica (Stuart Russell, Toby Walsh, Christof Heyns) y defensora (Ronald Arkin sobre ethical autonomy). Casos contemporáneos relevantes: Lavender (Israel/Gaza), Kargu-2 (Libia 2020), Project Maven (DoD/Google).
Tratamiento en la encíclica
Bloque más operacionalmente denso del Cap. V (§197-200). §197 nombra el problema (autonomía operativa hace la guerra 'más viable'). §198 ⭐ es la afirmación doctrinal más categórica: 'no es lícito confiar a sistemas artificiales decisiones letales […] no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable'. §199 ofrece tres criterios (responsabilidad personal identificable, tiempo del juicio moral, distinción y protección de civiles). §200 ofrece tres exigencias (trazabilidad, control humano efectivo, reglas internacionales compartidas).
Apariciones en el texto 4
- §197 La creciente facilidad con la que se pueden emplear los sistemas de armas con autonomía operativa hace que la guerra sea más 'viable' y menos sujeta al control humano.
- §198 No es lícito confiar a sistemas artificiales decisiones letales o, en cualquier caso, irreversibles. No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable.
- §199 Toda tecnología que facilite atacar sin ver el rostro del otro baja el umbral moral del conflicto.
- §200 La decisión de emplear la fuerza letal no puede delegarse en procesos turbios o automatizados, sino que debe permanecer bajo un control humano efectivo, consciente y responsable.
Conceptos relacionados
Referencias externas
- ↗ Stuart Russell — Slaughterbots (Future of Life Institute, 2017)
Posición técnica influyente contra LAWS desde el campo de la IA.
- ↗ UN Group of Governmental Experts on LAWS (CCW)
Foro internacional principal del debate regulatorio sobre LAWS.
- ↗ International Committee for Robot Arms Control (ICRAC)
Red académica internacional crítica de LAWS.