Concepto técnico
IA cultivada, no construida
Las inteligencias artificiales modernas están más 'cultivadas' que 'construidas'
Definición
Caracterización técnicamente precisa de los modelos de IA modernos: los desarrolladores no diseñan directamente cada detalle del sistema, sino que crean una arquitectura sobre la cual el modelo 'crece' a partir de entrenamiento con grandes volúmenes de datos. Las representaciones internas emergen y son desconocidas incluso para sus creadores.
Glosa teológica
La distinción 'cultivar vs construir' tiene resonancia teológica profunda: cultivar es la actividad propia del jardinero del Edén (Gn 2,15) — colabora con un crecimiento que no domina enteramente. La IA participa así de la ambigüedad de toda obra creativa humana: produce algo que excede al productor.
Glosa técnica
Captura con precisión el funcionamiento de los LLMs modernos: pre-training sobre billones de tokens, representaciones internas emergentes vía gradient descent, fine-tuning con RLHF/DPO/Constitutional AI. Los desarrolladores configuran el sustrato (arquitectura transformer, dataset, función de pérdida) pero no los pesos individuales. Esta opacidad fundamenta el campo de la mechanistic interpretability.
Tratamiento en la encíclica
Una de las formulaciones más técnicamente afinadas de toda la encíclica (§98). Reconoce explícitamente que 'ni siquiera los desarrolladores entienden el funcionamiento interno' — gesto epistémicamente humilde inusual en discurso magisterial. Esta opacidad es la base de la dificultad de la 'alineación' (§107) y del llamado a investigación científica profundizada.
Apariciones en el texto 2
Conceptos relacionados
Referencias externas
- ↗ Anthropic — Mechanistic Interpretability
Investigación sobre cómo entender el funcionamiento interno de los modelos.
- ↗ Bommasani et al. — On the Opportunities and Risks of Foundation Models (2021)
Paper de Stanford CRFM sobre la naturaleza emergente de los modelos foundation.