Técnica y dominio

Apertura del capítulo. El Papa anuncia el tema —custodiar lo humano en la era IA— y reactiva la imagen bíblica vertebradora del documento: Babel (dominio que deshumaniza) vs Jerusalén de Nehemías (responsabilidad compartida). Llama a los laicos a no temer dejarse interpelar por la realidad.

• §90 No se trata de una decisión sobre nuestro futuro, sino sobre nuestro presente, porque la IA y las demás tecnologías emergentes ya son parte de nuestra vida cotidiana. ◆ Síntesis
• §91 Me acompaña la convicción de que el modo concreto de vivir las relaciones sociales a la luz… ◆ Síntesis

Diagnóstico estructural. León XIV retoma el 'paradigma tecnocrático' de Laudato Si' (la lógica de eficiencia/control/lucro como criterio único) y lo actualiza con tres extensiones clave: (a) las tecnologías emergentes como aceleradores del paradigma; (b) la advertencia de Pablo VI sobre progreso técnico sin progreso moral; (c) el diagnóstico político central de que el poder digital reside hoy en actores privados transnacionales, no en los Estados. Los seis principios de la DSI se proponen como criterios para discernir el nuevo escenario.

• §92 La técnica no es un simple instrumento y, cuando se vuelve criterio, termina por establecer qué cuenta y qué puede descartarse. ▲ Lectura crítica
• §93 Más poderoso no significa necesariamente mejor. ▲ Lectura crítica
• §94 Se 'tiene más', pero no se 'es más', y la persona corre el riesgo de ser valorada principalmente en base al rendimiento que ofrece. ▲ Lectura crítica
• §95 El control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos. ▲ Lectura crítica
• §96 Los grandes principios de la Doctrina social se convierten en criterios para juzgar y discernir el nuevo escenario. ▲ Lectura crítica

Preámbulo metodológico + caracterización técnica y antropológica de la IA. Pasaje técnicamente preciso: los modelos modernos están 'más cultivados que construidos', incluso sus desarrolladores entienden poco de su funcionamiento interno. Tesis antropológica decisiva: la IA imita funciones pero no vive experiencia ni tiene conciencia moral.

• §97 Que sea siempre la inteligencia humana, con su conciencia y su libertad, la que guíe las innovaciones técnicas y establezca con responsabilidad su uso y sus límites. ▲ Lectura crítica
• §98 Las inteligencias artificiales modernas están más 'cultivadas' que 'construidas'. ▲ Lectura crítica
• §99 Pueden imitar lenguajes, comportamientos, valoraciones; pueden simular empatía o comprensión, pero no conocen lo que producen. ▲ Lectura crítica

Tres riesgos del uso personal (facilidad, impresión de objetividad, simulación de comunicación humana) y un riesgo material frecuentemente subestimado: el impacto ambiental masivo de la IA (energía, agua, emisiones).

• §100 El riesgo no es tanto que una persona crea que está hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro. ▲ Lectura crítica
• §101 Los actuales sistemas de IA requieren grandes cantidades de energía y agua, inciden de manera significativa en las emisiones de anhídrido carbónico y consumen recursos de manera intensiva. ▲ Lectura crítica

Bloque más político del capítulo. Tesis encadenadas: la IA no es moralmente neutra (cada artefacto inscribe decisiones); algoritmizar 'quién es digno' diluye la responsabilidad política; la trazabilidad (accountability) exige cadenas claras; la 'alineación' decidida por pocos es ilegítima ('no serviría de nada una IA más moral si esta moral es decidida por unos pocos'); los datos son bienes comunes que requieren gobernanza democrática; los seis principios DSI se aplican uno por uno; 'desarmar la IA' como programa transversal. Cierra con apelación directa a desarrolladores.

• §102 El uso de la IA nunca es un hecho puramente técnico. ◆ Síntesis
• §103 El descarte de los débiles queda revestido de una neutralidad y una objetividad ante las cuales es imposible protestar. ▲ Lectura crítica
• §104 El discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían. ▲ Lectura crítica
• §105 Es esencial que las responsabilidades estén claras en todas las etapas. ✧ Nota técnica
• §106 Existe a menudo un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas, los controles y las instituciones. ▲ Lectura crítica
• §107 No serviría de nada una IA más moral, si esta moral es decidida por unos pocos. ▲ Lectura crítica
• §108 La propiedad de los datos no puede confiarse sólo al sector privado, sino que debe reglamentarse. Estos son fruto del aporte de muchos y no pueden ser vendidos o confiados a unos pocos. ▲ Lectura crítica
• §109 La justicia social no es sólo un objetivo que hay que tutelar después de la adopción de las tecnologías, sino una condición que se debe poner en práctica desde su diseño. ▲ Lectura crítica
• §110 Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. ▲ Lectura crítica
• §111 Cada elección de proyecto expresa una visión de la humanidad. ▲ Lectura crítica

Giro hacia la antropología. El riesgo no es solo el mal uso de tecnologías, sino la normalización de una visión antihumana donde la vida consiste en optimizar. Absolutizar una sola dimensión —la inteligencia— empobrece. La calidad de una civilización se mide por el cuidado, no por el poder de sus medios.

• §112 El riesgo no es sólo que algunas tecnologías se usen mal, sino que el paradigma tecnocrático haga parecer justa y normal una visión antihumana. ▲ Lectura crítica
• §113 El poder técnico, si no se equilibra, no nos hace más capaces; nos aísla, y nos expone aún más a lógicas de dominio y de exclusión. ▲ Lectura crítica
• §114 La calidad de una civilización se mide no por el poder de sus medios, sino por el cuidado que sabe ofrecer. ◆ Síntesis

Análisis del transhumanismo y posthumanismo como ideologías de fondo en los centros de poder tecnológico. Distinción precisa entre las dos corrientes (potenciación vs. hibridación radical). Crítica al sustrato antropológico común: si el ser humano es 'materia para perfeccionar', se abre la puerta a considerar algunos menos dignos.

• §115 El trasfondo ideológico que reside en algunos centros de poder tecnológico y colonizan el imaginario colectivo. ▲ Lectura crítica
• §116 Un archipiélago de islas conceptuales diferentes, pero unidas por el mismo mar de presupuestos: la centralidad de la técnica y el sueño de superar los límites de la condición humana. ▲ Lectura crítica
• §117 Si el ser humano es tratado como materia para ser perfeccionada o superada, entonces se vuelve más fácil aceptar que algunos sean considerados menos útiles, menos deseables, menos dignos. ▲ Lectura crítica

Reivindicación filosófico-teológica del límite. El ser humano florece 'a través del límite', no a pesar de él. Compasión, perdón, arte y espiritualidad nacen de la finitud. Galería de testigos —ICRC, ONU, MLK, Mandela, mártires, 'mártires de lo cotidiano'— como evidencia de que el bien progresa con perseverancia. Beethoven, Guernica y La lista de Schindler como obras casi proféticas.

• §118 El ser humano no florece a pesar del límite, sino a menudo a través del límite. ▲ Lectura crítica
• §119 Es precisamente en nuestro ser limitados donde encuentran lugar la compasión. ◆ Síntesis
• §120 Para eliminar totalmente el dolor sería necesario, a fin de cuentas, apagar también el amor y el deseo. ▲ Lectura crítica
• §121 Una pequeña luz sigue brillando en la humanidad y sigue siendo capaz de reavivarse. ◆ Síntesis
• §122 Precisamente porque experimenta el límite —la vulnerabilidad, el dolor, el fracaso— puede reconocer la dignidad propia y ajena como inviolable. ▲ Lectura crítica
• §123 La historia no se presenta sólo como el catálogo de nuestras acciones violentas, sino también como la prueba de que el ser humano sabe fundar instituciones capaces de proteger la vida común. ◆ Síntesis
• §124 La historia puede cambiar cuando al menos un solo hombre o una sola mujer se toma realmente en serio la dignidad de todos. ◆ Síntesis
• §125 Los 'mártires de lo cotidiano' que curan, educan, acompañan y consuelan discretamente. ◆ Síntesis
• §126 Hacer que la técnica crezca sin que se repliegue el corazón. ◆ Síntesis

El verdadero 'más que humano' cristiano no es autosuperación técnica sino gracia que eleva. Diferencia radical respecto a los sueños prometeicos: lo que salva no es la autosuficiencia potenciada sino una relación que libera. La frase clave: 'Para un algoritmo, el error es algo que hay que corregir; para una persona, puede ser el inicio de un cambio profundo'.

• §127 La expresión 'más que humano' no pertenece sólo al lenguaje de las promesas técnicas. ◆ Síntesis
• §128 Para un algoritmo, el error es algo que hay que corregir; para una persona, puede ser el inicio de un cambio profundo. ▲ Lectura crítica

Cierre del capítulo. El humanismo cristiano asume con gratitud la ciencia y la técnica, pero las sitúa dentro de una vocación más alta. La verdadera alternativa no está entre entusiasmo y miedo, sino entre dos modos de construir: un progreso que sirve a la persona o un progreso que la doblega a lógicas de poder.

• §129 La verdadera alternativa no está entre el entusiasmo y el miedo, sino entre dos modos de construir: un progreso que sirve a la persona y a los pueblos, o un progreso que los doblega a lógicas de poder. ◆ Síntesis