La creciente facilidad con la que se pueden emplear los sistemas de armas con autonomía operativa hace que la guerra sea más 'viable' y menos sujeta al control humano.
Apertura del bloque más técnicamente denso. Tesis clave: las armas con autonomía operativa hacen la guerra 'más viable' y menos sujeta a control humano — contradiciendo el principio de que el recurso a la fuerza armada debe ser último recurso. El desarrollo y uso de la IA en el ámbito bélico debe estar sujeto a restricciones éticas rigurosas, respeto a la dignidad humana y a la sacralidad de la vida, evitando una carrera armamentista.
El argumento clave es contraintuitivo y muy fino: la IA hace la guerra 'más viable' — no más eficaz, no más precisa, sino más fácil de iniciar. Cuando la decisión letal se delega a sistemas autónomos, el costo psicológico-político del 'apretar el gatillo' disminuye drásticamente. El principio doctrinal (último recurso) requiere fricción humana en cada decisión letal — la IA elimina esa fricción. La encíclica plantea el problema con la precisión exacta del campo: no es 'la IA va a matar a humanos por accidente', es 'la IA va a hacer que humanos maten a humanos con menos resistencia moral'.
Las LAWS (Lethal Autonomous Weapon Systems) son objeto de debate en la CCW (Convention on Certain Conventional Weapons) de la ONU desde 2014. La Campaign to Stop Killer Robots agrupa ONGs por la prohibición preventiva. Casos concretos: drones STM Kargu-2 (Turquía, usado en Libia con autonomía limitada, reportado por panel de la ONU en 2021), el sistema Lavender de las IDF en Gaza (2023-2024, generaba targets a velocidades imposibles para revisión humana real), enjambres de drones con IA. La posición de la Santa Sede sobre LAWS es consistente desde 2018; ha presentado declaraciones en Ginebra. La encíclica eleva la posición a doctrina.
Conceptos relacionados
Referencias cruzadas
- → §198 crítica al concepto de 'agentes morales artificiales'
- → §199 tres criterios precisos de discernimiento
- ↗ UN Convention on Certain Conventional Weapons (CCW) — Group on LAWS foro multilateral donde se debate la prohibición