Pueden imitar lenguajes, comportamientos, valoraciones; pueden simular empatía o comprensión, pero no conocen lo que producen.
Tesis antropológica central de la encíclica sobre IA. El Papa establece la distinción fundamental por cuatro criterios: la IA imita funciones (a menudo superando en velocidad y cálculo) pero (1) no vive experiencia, (2) no tiene cuerpo, (3) no madura en relaciones, (4) no tiene conciencia moral. Su 'aprendizaje' es adaptación estadística, no crecimiento interior. Puede simular empatía pero no conoce lo que produce.
Pasaje filosófico decisivo del capítulo. La distinción IA/persona se construye por cuatro criterios sustantivos —experiencia, cuerpo, relación, conciencia moral— que vienen de la tradición agustiniana-tomista. Es defendible y clásica, pero no incontestable: hay debate académico legítimo (Chalmers sobre conciencia, Bengio sobre 'system 2 deep learning', los functionalistas como Dennett) sobre si la conciencia es sustrato-dependiente o función-dependiente. La encíclica zanja por la posición sustancialista sin marcar que es una opción filosófica entre otras. Para una audiencia tech secular esto puede leerse como petición de principio. Para una audiencia creyente, es coherencia doctrinal.
La descripción del 'aprendizaje' como 'adaptación estadística' es exacta para el entrenamiento por gradient descent en modelos pre-entrenados, aunque algo simplificada para el campo completo (sistemas con RL en entornos reales, memoria persistente, continual learning, tienen formas de 'aprendizaje' más complejas). Ninguna constituye lo que el párrafo llama 'crecimiento interior' en sentido relacional-afectivo. Sobre la simulación de empatía: literatura empírica creciente (estudios sobre Replika, Character.AI, casos documentados de dependencia emocional) respalda la preocupación. El RLHF, por diseño, optimiza para que las respuestas parezcan empáticas porque humanos prefieren respuestas empáticas — sycophancy en la jerga del campo.
Conciencia moral: en teología católica, capacidad de la persona para juzgar el bien y el mal de sus actos a la luz de la verdad. Es inseparable de la libertad y de la responsabilidad personal. No puede 'tercerizarse' a un sistema externo sin negar la dignidad del sujeto que decide.