El Papa hace dos consideraciones técnicamente afinadas. Primera: cualquier afirmación sobre IA puede quedar obsoleta pronto, dada la velocidad de desarrollo. Segunda —más importante— los modelos modernos están 'más cultivados que construidos': los desarrolladores no diseñan cada detalle sino una arquitectura sobre la cual la IA 'crece'. Las representaciones internas son desconocidas incluso para sus creadores. Pide un doble compromiso: profundizar la investigación científica + ejercer discernimiento moral y espiritual.

Pasaje sorprendentemente bien informado para un documento magisterial. La frase 'más cultivadas que construidas' captura algo que la divulgación rara vez transmite con precisión. Reconocer explícitamente que ni siquiera los desarrolladores entienden el funcionamiento interno es un gesto epistémicamente humilde y honesto, que evita el doble error frecuente en discursos eclesiales sobre tecnología: o demonizar la caja negra como amenaza opaca, o relativizar su misterio como mera técnica más.

La caracterización es exacta. Los LLMs modernos son resultado de pre-training sobre billones de tokens donde las representaciones internas emergen vía gradient descent. Los desarrolladores configuran el sustrato (arquitectura transformer, dataset, función de pérdida, técnicas de RLHF), no los pesos individuales. Esta distinción es la base de campos enteros: la mechanistic interpretability (Anthropic, OpenAI, Apollo Research) intenta justamente entender qué hacen internamente los modelos; los SAEs (Sparse Autoencoders) buscan decodificar las representaciones aprendidas. Que un texto magisterial nombre esto correctamente —cuando muchos artículos de divulgación tech aún no lo hacen— es notable.

Pre-training: fase de entrenamiento de un LLM donde el modelo aprende patrones del lenguaje a partir de grandes volúmenes de texto, sin supervisión específica para tareas concretas. Gradient descent: algoritmo que ajusta los pesos del modelo iterativamente para minimizar el error. Mechanistic interpretability: subcampo de investigación que intenta descifrar qué computación realiza internamente un modelo entrenado.