Glosario para audiencia eclesial
Términos técnicos IA
Vocabulario del campo de la IA explicado sin asumir formación técnica previa. Para lectores eclesiales que quieren entender los términos técnicos que la encíclica aborda — y la red de tecnologías que están en el debate público sobre IA.
-
# AGI (Inteligencia Artificial General)
Hipotética IA capaz de realizar cualquier tarea cognitiva que un humano pueda hacer, con flexibilidad general.
Artificial General Intelligence. La IA actual es 'estrecha' o 'especializada': muy buena en tareas específicas (jugar ajedrez, generar texto, reconocer imágenes), pero no transfiere flexibilidad de una a otra. AGI sería un sistema con la misma capacidad de generalización que un humano. Es un objetivo declarado de algunas compañías (OpenAI, DeepMind) y un horizonte controvertido: hay debate sobre si es posible, deseable, cercano o lejano. La encíclica no usa el término pero su antropología (§99, §233) implica que AGI no sustituiría la experiencia humana: imitar funciones no es vivir. -
# AI Act / Reglamento europeo de IA
Primer marco regulatorio integral de IA en el mundo, aprobado por la Unión Europea en 2024.
Reglamento (UE) 2024/1689. Clasifica los sistemas de IA por nivel de riesgo: prohibidos (sistemas de scoring social, manipulación subliminal, identificación biométrica masiva), alto riesgo (educación, empleo, justicia, infraestructura crítica), riesgo limitado (chatbots, contenido generado), riesgo mínimo. Impone obligaciones específicas (transparencia, supervisión humana, evaluaciones de impacto en derechos fundamentales). Es el marco regulatorio que da contenido concreto a varios principios que Magnifica Humanitas invoca en abstracto: trazabilidad (§200), auditorías (§71), accountability (§103). -
# AI Safety (seguridad de la IA)
Campo de investigación dedicado a anticipar y mitigar riesgos derivados de sistemas de IA cada vez más capaces.
Incluye preocupaciones que van desde lo inmediato (sesgo algorítmico, desinformación, hallucinations) hasta lo prospectivo (sistemas que persiguen objetivos no alineados con los humanos, riesgos catastróficos de sistemas muy capaces). Es un campo con voces desde la academia (Stuart Russell, Yoshua Bengio), desde laboratorios (Anthropic, Redwood Research) y desde organizaciones independientes (Future of Life Institute, ARIA). La encíclica respalda implícitamente esta agenda cuando exige 'trazabilidad, control humano efectivo, reglas internacionales compartidas' (§200). -
# Alignment (técnico)
Conjunto de técnicas para que un sistema de IA actúe de acuerdo con valores y objetivos humanos.
Distinto del concepto alineación (que la encíclica problematiza en su dimensión política: '¿alineación decidida por quién?'), el alignment técnico es el campo de investigación que estudia cómo lograr que un sistema de IA haga lo que queremos. Incluye RLHF, constitutional AI, red teaming, evaluaciones de seguridad, etc. Es una disciplina activa en empresas como Anthropic, OpenAI, DeepMind. La encíclica acepta el problema técnico (§107) pero pregunta por la legitimidad del proceso: 'no serviría de nada una IA más moral, si esta moral es decidida por unos pocos'. -
# Aprendizaje automático (machine learning)
Enfoque en el que un sistema computacional 'aprende' patrones a partir de ejemplos, en lugar de ser programado con reglas explícitas.
Imagina enseñar a alguien a distinguir gatos de perros: en lugar de darle una lista de reglas ('si tiene bigotes y maúlla, es gato'), le muestras miles de fotos etiquetadas y deja que él descubra las regularidades. Eso es machine learning. Los sistemas actuales aprenden de cantidades masivas de datos (texto, imágenes, código) durante un proceso costoso llamado entrenamiento. Una vez entrenados, pueden hacer predicciones sobre datos nuevos. La encíclica describe esto cuando dice que los modelos son 'más cultivados que construidos' (§98). -
# Aprendizaje profundo (deep learning)
Variante de machine learning que usa redes neuronales con muchas capas — la base de la IA contemporánea.
Es la tecnología detrás de los avances recientes en IA. Una 'red neuronal' es una arquitectura de computación inspirada vagamente en cómo se conectan las neuronas en el cerebro (la analogía es muy laxa). 'Profundo' significa que la red tiene muchas capas — desde unas pocas hasta cientos o miles. Cada capa aprende a detectar patrones cada vez más abstractos a partir de los anteriores. Es la base de ChatGPT, Claude, Stable Diffusion y prácticamente todos los sistemas de IA generativa actuales. -
# Compute (poder de cómputo)
Cantidad de potencia computacional disponible para entrenar y ejecutar modelos de IA. Es uno de los recursos más concentrados del campo.
Entrenar un modelo de IA grande requiere miles de chips especializados (GPUs como las de NVIDIA) trabajando en paralelo durante semanas o meses, en centros de datos con consumo eléctrico de ciudades pequeñas. Solo unas pocas empresas en el mundo tienen el compute para entrenar frontier models. La encíclica conecta este hecho con su crítica al 'paradigma tecnocrático' (§101: impacto ambiental) y a la concentración del poder digital (§5). -
# Dataset / datos de entrenamiento
Conjunto masivo de texto, imágenes o ejemplos con el que se entrena un modelo de IA.
Los grandes modelos de lenguaje actuales se entrenan con cantidades del orden de billones (millones de millones) de palabras de texto, recopiladas de libros, artículos científicos, sitios web, foros, código, etc. La composición de estos datasets es enormemente influyente: el modelo aprende los sesgos, omisiones y perspectivas del corpus. Por eso la encíclica habla de la importancia de los 'datos como bienes comunes' (§108) — quién selecciona, etiqueta y custodia los datos tiene un poder que va mucho más allá de lo técnico. -
# Embedding
Representación numérica de palabras, frases o documentos en un espacio matemático donde la 'distancia' refleja similitud de significado.
Es uno de los conceptos técnicos centrales pero menos visibles. Cuando un sistema de IA procesa una palabra como 'rey', no la maneja como letras: la convierte en una larga lista de números (un vector) que la representa. Palabras similares en significado quedan cerca en ese 'espacio' numérico. Es lo que permite, por ejemplo, encontrar documentos semánticamente parecidos sin que compartan exactamente las mismas palabras. La búsqueda de este mismo sitio, si se quisiera hacer 'semántica', usaría embeddings. -
# Fine-tuning
Proceso de afinar un modelo de IA ya entrenado adaptándolo a una tarea o dominio específico, con relativamente pocos datos adicionales.
Imagina un médico generalista que se especializa en cardiología: ya tiene formación general; un curso adicional lo afina para una práctica específica. El fine-tuning hace lo mismo con un modelo de IA: parte de un modelo general (entrenado con todo internet, digamos) y lo afina con datos específicos para una tarea particular — diagnóstico médico, código legal, atención al cliente de una empresa concreta. Es mucho más barato y rápido que entrenar un modelo desde cero. -
# Frontier model (modelo de frontera)
Los modelos de IA más avanzados que existen en un momento dado — los que empujan los límites de lo posible.
Categoría informal pero importante en el debate regulatorio. En 2026, los frontier models son los modelos más capaces de empresas como Anthropic, OpenAI, Google DeepMind, xAI. Concentran el debate sobre AI Safety y son el foco de la regulación europea (AI Act art. 51 sobre 'modelos de propósito general con riesgo sistémico') y de iniciativas voluntarias como el Frontier Model Forum. La encíclica al hablar de 'concentración del poder digital en pocos actores' (§5) se refiere implícitamente a las empresas que controlan estos modelos. -
# Hallucination / alucinación
Fenómeno por el cual un modelo de IA genera información plausible-sonante pero falsa, presentándola con confianza.
Un modelo de IA puede inventar citas, fechas, papers, eventos con total fluidez, sin distinguir lo cierto de lo plausible. No 'sabe' que está mintiendo: simplemente está optimizando para producir texto coherente. Es un problema fundamental, no un bug fácil de arreglar — está en la naturaleza de cómo funcionan los LLM. Reducirlo es objeto de investigación activa (RAG, entrenamiento más cuidadoso, técnicas de incertidumbre). La encíclica menciona implícitamente esto al hablar del 'aspecto frío y aséptico' de la IA que sugiere objetividad sin garantizarla (§100). -
# Inferencia (vs entrenamiento)
Distinción central: 'entrenamiento' es enseñar al modelo (costoso, una vez); 'inferencia' es usarlo para generar respuestas (más barato, cada vez).
Hay dos fases distintas en la vida de un modelo de IA. Entrenamiento: el proceso (largo, costoso, masivo) de ajustar los parámetros con datos para que el modelo aprenda. Sucede una vez (o pocas veces, con ajustes finos). Inferencia: el proceso de usar el modelo ya entrenado para generar una respuesta a una nueva consulta. Sucede cada vez que un usuario interactúa con ChatGPT, Claude, etc. El entrenamiento concentra la mayor inversión y el impacto ambiental; la inferencia, multiplicada por millones de usuarios, también tiene impacto agregado significativo. -
# Inteligencia Artificial (IA)
Sistemas computacionales que realizan tareas que tradicionalmente requerían inteligencia humana — reconocer imágenes, traducir, escribir, jugar, decidir.
Campo de la informática que diseña sistemas capaces de procesar información de modos antes asociados solo a la inteligencia humana. El término es amplio: incluye la IA 'clásica' o simbólica (reglas explícitas) y la IA basada en aprendizaje automático (que aprende patrones a partir de datos). La 'IA' que ha causado la transformación reciente (ChatGPT, Claude, etc.) es de este segundo tipo. La encíclica, al hablar de 'IA', se refiere fundamentalmente a este tipo basado en redes neuronales profundas y modelos de lenguaje. -
# Model card / system card
Documento publicado por un desarrollador de IA que describe las características, limitaciones y evaluaciones de seguridad de un modelo.
Convención introducida por investigadores de Google (Mitchell et al., 2019) y adoptada ampliamente. Una model card describe: para qué se entrenó el modelo, con qué datos, qué evaluaciones pasó, qué sesgos conocidos tiene, qué usos están desaconsejados. Es un instrumento de accountability — fundamental para la gobernanza democrática de la IA que la encíclica propone (§71). Anthropic, OpenAI y otras laboratorios publican system cards detalladas con cada nuevo modelo. -
# Modelo grande de lenguaje (LLM)
Sistema de IA entrenado con cantidades masivas de texto, capaz de leer, escribir, dialogar, traducir y razonar sobre lenguaje natural.
Large Language Model en inglés. Son los sistemas que han popularizado la IA en los últimos años: ChatGPT (OpenAI), Claude (Anthropic), Gemini (Google), Llama (Meta). Aprenden de cantidades enormes de texto (libros, artículos, webs, código) durante meses de entrenamiento, y luego pueden generar respuestas a casi cualquier consulta en lenguaje natural. La encíclica, cuando habla de IA capaz de 'imitar funciones', se refiere típicamente a este tipo de sistema (§99). -
# Open Source AI / open weights
Modelos de IA cuyos parámetros (y a veces código y datos) son públicamente accesibles, en oposición a los modelos 'cerrados' de uso por API.
Hay debate sobre qué significa 'open' en IA. Open weights significa que los parámetros del modelo se publican (cualquiera puede descargarlos y usarlos) — ej. Llama de Meta, Mistral. Open source en sentido pleno también incluiría datos de entrenamiento y código completo, lo cual es raro en modelos grandes. La encíclica no toma posición técnica, pero su llamada a que los datos sean bienes comunes (§108) y al destino universal de patentes y algoritmos (§67) apoya la apertura como criterio. -
# Parámetros / pesos
Los millones (o miles de millones) de números aprendidos durante el entrenamiento que definen el comportamiento de un modelo de IA.
Cuando un modelo se entrena, lo que cambia son sus parámetros o pesos (en inglés weights). Son números que controlan cómo el modelo procesa información. Los modelos grandes actuales tienen miles de millones de parámetros (GPT-3 tenía 175 mil millones; los modelos de frontera actuales superan el billón). Estos parámetros son el resultado tangible del entrenamiento, y son lo que se publica cuando un modelo es 'de open weights'. -
# Prompt / prompting
Texto de entrada que un humano le da a un modelo de IA para que genere una respuesta. El arte de formularlo bien se llama 'prompting'.
Cuando le escribes algo a ChatGPT o Claude, eso es un prompt. La calidad del prompt influye decisivamente en la calidad de la respuesta. Prompt engineering es la disciplina (mitad arte, mitad técnica) de formular prompts efectivos. Hay debate sobre si esto seguirá siendo necesario o si los modelos futuros entenderán intenciones humanas con menos instrucción explícita. En este sitio, todos los textos editoriales producidos con asistencia de Claude pasaron por iteraciones de prompts redactados por el autor. -
# Red neuronal
Arquitectura computacional de muchas 'unidades' conectadas que procesan información en capas — el núcleo del deep learning.
Es una metáfora con las neuronas del cerebro, pero la implementación es matemática: cada 'neurona' artificial recibe números de entrada, los combina con pesos aprendidos, y produce un número de salida. Millones de estas unidades organizadas en capas forman una red. La inspiración biológica es muy general — el funcionamiento real es álgebra lineal a gran escala ejecutada en hardware especializado (GPUs). Cuando un sistema de IA 'genera texto', en el fondo está calculando probabilidades a través de una red neuronal entrenada. -
# Red teaming
Práctica de poner a prueba un sistema de IA intentando hacerlo fallar — encontrar usos peligrosos, sesgos ocultos, vulnerabilidades.
Tomado de la jerga de seguridad informática y militar (el 'equipo rojo' simula al adversario). Aplicado a IA: equipos especializados intentan que el modelo produzca contenido peligroso, instrucciones para hacer daño, sesgo, o que sea engañado para saltarse sus reglas. Es una práctica estándar en empresas como Anthropic antes de lanzar un modelo. La encíclica respalda implícitamente este tipo de prácticas cuando exige 'auditorías independientes' (§71) como parte de la subsidiariedad digital. -
# RLHF (Aprendizaje por refuerzo con feedback humano)
Técnica para hacer que un modelo de IA responda de modo más útil, honesto e inocuo, usando juicios humanos para refinarlo.
Reinforcement Learning from Human Feedback. Después del entrenamiento básico, un modelo todavía puede ser tóxico, inútil o engañoso. RLHF lo refina así: humanos comparan pares de respuestas del modelo y eligen cuál es mejor. Estas elecciones se usan para entrenar al modelo a producir respuestas que los humanos preferirían. Es uno de los componentes que hicieron a ChatGPT y Claude utilizables conversacionalmente. La pregunta crítica que la encíclica plantea es quién decide qué cuenta como 'mejor' (ver concepto Alineación). -
# Token
Unidad mínima de texto que un modelo de IA procesa — no exactamente una palabra, sino un fragmento más pequeño.
Los modelos no procesan palabras enteras: las dividen en tokens, fragmentos típicamente de 3-4 caracteres. La palabra 'inteligencia' puede dividirse en varios tokens. Los modelos miden su capacidad en tokens: cuánto texto pueden procesar de una vez ('ventana de contexto'), cuánto cuesta cada consulta (precio por mil tokens), etc. Es una unidad técnica invisible al usuario pero muy presente en el diseño técnico. -
# Transformer
Arquitectura de red neuronal específica, introducida en 2017, que es la base de los grandes modelos de lenguaje actuales.
Una arquitectura técnica propuesta por investigadores de Google en un paper de 2017 titulado 'Attention Is All You Need'. Su innovación clave fue un mecanismo llamado 'atención' que permite a la red sopesar qué partes de un texto son relevantes para qué otras, sin importar la distancia entre ellas. Es la arquitectura detrás de GPT (de OpenAI), Claude (de Anthropic), Gemini (de Google) y prácticamente todos los grandes modelos de lenguaje contemporáneos.