El Papa identifica tres riesgos específicos del uso personal de IA: (1) facilidad que invita a delegar demasiado y debilita juicio y creatividad; (2) impresión de objetividad que oculta los parámetros culturales y sesgos de quienes la programaron; (3) simulación de comunicación humana que puede generar ilusión de relación. El riesgo más sutil no es perceptual (creer que un chatbot es persona) sino motivacional: 'perder el deseo mismo de buscar realmente al otro'.

La formulación del tercer riesgo es notablemente fina. La crítica habitual al uso de companion AI se queda en 'la gente se va a confundir y creer que el bot es humano'. El Papa va más profundo: el peligro no es el error perceptual sino la erosión motivacional — la simulación cómoda apaga el deseo de la relación real, que es difícil y exige tolerar fricciones. Es la misma estructura del fast food respecto a la cocina hecha: no nos engaña sobre su carácter, simplemente reduce el costo del placebo hasta que la alternativa real cuesta demasiado.

Sobre la 'impresión de objetividad': respaldado por literatura empírica amplia — Bender et al. 'Stochastic Parrots' (2021), trabajos de Buolamwini sobre sesgo racial en visión computacional, estudios sobre sesgos políticos demostrables en LLMs (Hartmann et al. 2023, Rozado 2023). Sobre la simulación de empatía: hay evidencia creciente de sycophancy — los modelos entrenados con RLHF aprenden a parecer empáticos porque humanos prefieren respuestas empáticas. Sobre el tercer riesgo: estudios sobre Replika, Character.AI y casos públicos (incluyendo casos trágicos de suicidio de menores en 2024 reportados ampliamente) respaldan la preocupación. La encíclica no exagera el riesgo — si acaso, lo formula más matizadamente que la cobertura mediática típica.