Toda tecnología que facilite atacar sin ver el rostro del otro baja el umbral moral del conflicto.

02 Lectura asistida 3 bloques
Síntesis

Tres criterios precisos de discernimiento sobre IA bélica: (1) responsabilidad personal — la cadena de quienes planifican, entrenan, autorizan y emplean debe ser identificable y verificable; (2) tiempo del juicio moral — la guerra no puede tener como criterios supremos la rapidez y la eficiencia; (3) distinción y protección de civiles — toda tecnología que facilite atacar 'sin ver el rostro del otro' baja el umbral moral, y la selección de objetivos no puede confundir combatientes con no combatientes.

Lectura crítica

Los tres criterios mapean directamente a tensiones reales del campo. (1) Accountability: el problema 'who's responsible for autonomous weapons decisions' es central — del programador, del comandante que autorizó, del operador, del estado? El AI Act europeo tiene exclusiones para usos militares — vacío regulatorio. (2) Tiempo: el caso Lavender en Gaza es ilustrativo — sistema generó miles de targets a velocidades que hacían imposible revisión humana real (~20 segundos por target según reportes). El criterio del Papa toca exactamente este punto. (3) Distinción: principio fundamental del IHL (Geneva Conventions, Additional Protocol I). Los sistemas autónomos requieren entrenamiento con datos de discriminación que no siempre captura realidades complejas (escudos humanos, combatientes mezclados con civiles, ataques en infraestructura dual-use).

Contraste técnico

La frase 'atacar sin ver el rostro del otro' es metafórica pero técnicamente precisa: los drones telecomandados ya redujeron radicalmente la fricción psicológica de matar (la literatura sobre 'PlayStation warfare'). Las armas autónomas la eliminan completamente. Iniciativas que abordan los tres criterios: Meaningful Human Control principle (debatido en CCW), la propuesta de predictability and reliability del CICR para sistemas de armas autónomos, la exigencia de certifiable cyber-physical guarantees que algunas propuestas técnicas (Stuart Russell con asistentes 'Wisdom') han elaborado. El §199 es el más operacional del bloque.

03 Conexiones

Conceptos relacionados

Referencias cruzadas

  • §200 exigencias ineludibles derivadas de estos criterios