Cuando comprendes cómo funciona un modelo grande de lenguaje (LLM) te sientes fascinado y defraudado al mismo tiempo. No, no es magia. Aunque lo parezca con frecuencia. Es, simplemente, estadística. Sin ánimo de ponerme técnico —y menos en el primer párrafo—, el principio es sencillo: la máquina adivina, por pura probabilidad, qué palabras debería usar a continuación. ¿Cómo? Estudiando miles, millones, miles de millones de términos y, lo que es más importante para el caso, las relaciones que existen entre ellas. Así, si en una misma frase empleamos las palabras "capital" y "Francia", el modelo predice que, con total seguridad, estamos hablando de París.
El lingüista J.R. Firth escribió, hace la friolera de casi setenta años: You shall know a word by the company it keeps. Cuando los ingenieros de Google DeepMind publicaron el artículo Attention is All You Need dieron a la afirmación de Firth carta de naturaleza matemática. Si no habéis entendido nada, no os preocupéis. Quedaos simplemente con que ese paper es el culpable de que hoy tengamos LLMs: fijó las bases de la probabilística que los mueve.
Esta es la parte que me fascina: que una serie de cálculos complejos basados en álgebra lineal sean capaces de capturar la relación entre TODAS las palabras del lenguaje humano. Wow. Pero, y ahí el punto amargo, en el fondo son solo matemáticas. El lenguaje humano es una creación única y extremadamente compleja. Nos distingue de otras especies que se comunican —desde las abejas hasta mi perro— por una cualidad muy particular: las palabras son representaciones simbólicas complejas de entidades corpóreas y conceptuales. Cuando hablamos de un árbol podemos referirnos al olivo que hay al otro lado de mi ventana, a cualquier otro ente arbóreo o a la idea misma de árbol. Ese concepto, además, entraña todo un universo conceptual y sensorial asociado. Ese olivo es corteza, hojas, aceitunas, aceite, Atenea, Mediterráneo, Machado…
Aquí es donde empiezan los problemas. Para un LLM un olivo no es nada de eso. Tiene potencial para serlo todo, pero no simbólicamente, sino dependiendo del contexto en el que se encuadre. Si hablamos de economía, probablemente será aceite y aceitunas. Si hablamos de mitología, recordará la historia de Atenea y Poseidón. Si hablamos de poesía… ¡Viejos olivos sedientos / bajo el claro sol del día, / olivares polvorientos / del campo de Andalucía!
Si nos ceñimos a un ente con significados acotados y un contexto bien definido, es fácil que el modelo prediga bien el dominio e identifique si queremos hablar de economía agraria o de la nostalgia del poeta. Pero ¿qué sucede cuando no es así? ¿Qué ocurre cuando nuestra interacción con un modelo de lenguaje se vuelve más amplia, más compleja y más ambigua? Que Claude, GPT o Gemini tienen que averiguar de qué demonios estamos hablando. Con mucha frecuencia lo logran. A menudo no lo hacen. Entonces la inercia estadística tira de un concepto erróneo, que lleva a otro y después a otro más. Y de repente tenemos un párrafo entero construido sobre una idea, una referencia o una afirmación completamente falsa. Eso es, ni más ni menos, lo que sucede cuando decimos que un modelo alucina: ha tirado mal del hilo, ha relacionado mal los contextos y se ha montado una película totalmente falsa.
La alucinación no es un fallo puntual, no es un defecto de implementación: es una consecuencia arquitectónica de la tecnología detrás del modelo. Sin un anclaje simbólico real, el LLM no tiene manera de saber de qué narices estamos hablando. Es lo que Stevan Harnad denominó el Symbol Grounding Problem en 1990: un sistema puede manipular símbolos con precisión sintáctica perfecta aunque no estén anclados a ningún referente del mundo real. Las palabras no tienen en realidad ningún significado estable. Son tan solo una distribución de probabilidades.
Para resolver este límite, que amenazaba con frenar la adopción de los LLMs allá por 2024, la industria tecnológica dio con una posible solución y le puso un nombre fulgurante: los Grandes Modelos de Razonamiento (LRMs). Así, si hacíamos caso a la categoría, parecía que por fin teníamos delante la ansiada máquina de pensar. Sin embargo, el estado del arte actual no es razonamiento: es una estructura matemática más compleja.
La revolución matemática: grafos de pensamiento (RoT)
Los LRMs obligan al modelo a generar algo así como planes de razonamiento. Antes de lanzarse a relacionar conceptos y trazar respuestas, los modelos actuales organizan los elementos con los que van a trabajar, los ordenan en una secuencia y tratan de detectar si alguno de los pasos puede contener ambigüedades, significados confusos o polisemia. Pero razonar paso a paso en línea recta consume demasiado tiempo y recursos. La solución fue abandonar el pensamiento lineal y adoptar el Retrieval-of-Thought (RoT): en lugar de improvisar cada vez esa organización, el modelo recupera plantillas de razonamiento previas estructuradas en grafos, las combina matemáticamente y navega hacia la solución reduciendo la exploración redundante.
El artículo fundacional sobre razonamiento encadenado —Chain-of-Thought Prompting Elicits Reasoning in Large Language Models (Wei et al., NeurIPS 2022)— documentó que forzar al modelo a mostrar pasos intermedios mejoraba sustancialmente los resultados en tareas de supuesto razonamiento. El RoT es la evolución arquitectónica de esa intuición, pero es importante entender que el lenguaje aquí juega contra nosotros. El modelo no piensa. No puede hacerlo. Navega por una topología de ideas y cadenas de pensamiento preconfiguradas, simulando la deducción mediante estructuras matemáticas, sin comprender nada de aquello que recupera. Grabáoslo: un modelo es incapaz de improvisar algo que no haya visto antes. Puede seguir razonamientos análogos, pero no puede crear una secuencia de pensamiento desde cero.
Sin embargo, al haber procesado miles de secuencias de razonamiento y correlacionarlas con tasas de acierto y fracaso, logra algo que parece increíble: predecir su propio error.
La anatomía de una duda y la hiperinflación de tokens
Esta es, probablemente, la hazaña de ingeniería más fascinante del estado del arte actual. ¿Cómo logra una máquina que no entiende lo que dice saber cuándo se equivoca? En realidad no tiene dudas. Tiene clasificadores de predicción. Sistemas como los trabajos en curso sobre iRAT (Iterative Retrieval Augmented Thoughts) o las APIs de Gemini monitorizan constantemente la distribución de probabilidad de su propia respuesta. Calculan una puntuación entre 0 y 1 sobre su propia incertidumbre. Si ese umbral cae por debajo de un nivel crítico —en algunos sistemas, el 30%— el modelo detiene la generación, formula una consulta interna, busca datos externos, actualiza el nodo de información y replanifica.
¿Recuerdas cuando Claude te dice que necesita más datos para continuar? Sí, está sucediendo exactamente eso. No está dialogando contigo socráticament para llegar a la verdad. Identifica que la conversación se ramifica por demasiadas vías y trata de verificar qué camino tomar. La recuperación de datos deja de ser pasiva: se convierte en una restricción matemática activa que guía el cálculo y reduce la alucinación. Es ingeniería de control aplicada a la generación de lenguaje.
Sería maravilloso si no fuera por un pequeño problema: el consumo de tokens. Predecir palabras para una secuencia de razonamiento tiene un coste computacional importante. Predecir varias líneas de posibilidades lo multiplica. Si además consideramos que las conversaciones se vuelven iterativas y que los razonamientos complejos arrastran mucha información de contexto… ¿entendéis ya por qué últimamente parece que los tokens no nos duran nada?
Aquí es donde la ciencia termina y empieza la estrategia comercial. Para paliar la frustración del usuario ante las idas y venidas y el consumo de recursos, toda esta brillantez estadística se empaqueta bajo una interfaz diseñada para producir una impresión radicalmente distinta de lo que ocurre. El cursor parpadeante. Los puntos suspensivos animados. La sucesión de mensajes: pensando, considerando las alternativas, razonando puntos críticos, reflexionando sobre el feedback del usuario…
Claude, Gemini, GPT; todos los modelos frontera nos lanzan esos mensajes mientras esperamos su respuesta. Ninguno es técnicamente falso —el sistema sí está procesando—, pero esos conceptos no describen reflexiones del modelo. Están configurados para evocar algo que no ocurre: deliberación, un proceso interior análogo al humano. Son diseño de UX pensado para convertir la latencia del cálculo en teatro cognitivo.
El efecto no es nuevo. En los años sesenta Joseph Weizenbaum documentó un comportamiento parecido cuando la gente interactuaba con ELIZA, un chatbot de sustitución de patrones sin ninguna comprensión —¡sí, amigos, en la época de Mad Men y el Apollo 11; a ver si os creéis que sois tan modernos…!—. Weizenbaum quedó horrorizado al observar que los usuarios atribuían a ELIZA empatía real y desarrollaban vínculos emocionales con el sistema. Lo describió en Computer Power and Human Reason (1976), un título fundamental para entender la lógica, a veces perversa, de la interacción persona-ordenador. Lo que el autor pensó que era una advertencia se ha convertido hoy en una feature de diseño de interfaz de los LLMs.
El dividendo de la credulidad
Ese es el punto más amargo. Las Big Tech han identificado una solución de ingeniería brillante, pero no podemos eludir que es extremadamente costosa en términos de cómputo. Y cada token de esa inmensa exploración iterativa sobre grafos de razonamiento se factura. Mientras, el mercado aplaude el truco y consolida un modelo de dependencia donde cedemos el juicio crítico a una caja negra que, irónicamente, solo está calculando probabilidades de no equivocarse.
Aun así, tenemos en las manos una herramienta cognitiva colosal que, sin embargo, se está empaquetando como otra tragaperras de la dopamina. Cada vez que sale al mercado un nuevo LRM parece que estamos más cerca de la Inteligencia Artificial General (AGI); algo que, si habéis leído con atención, no va a pasar nunca. Lo que nos hace inteligentes a los humanos es precisamente la capacidad de desligar el signo del símbolo. Algo que la IA generativa no puede lograr porque, sencillamente, no está diseñada con los mecanismos para ello.
Disponemos de modelos cada vez más potentes, capaces de ahorrarnos miles de horas de trabajo: una fuerza bruta computacional espectacular. Pero no olvidéis que solo está disfrazada de inteligencia superior para frustrarnos menos cada vez que mete la pata. Es un truco de psicología social que, de paso, engorda el consumo de cada una de nuestras interacciones.
Pensad en ello cada vez que tengáis la sensación de que Claude se os bebe los tokens.
Fuentes y lecturas complementarias
Fundamentos teóricos
Firth, J.R. (1957). A Synopsis of Linguistic Theory 1930-1955. Studies in Linguistic Analysis. — El origen de "you shall know a word by the company it keeps."
Harnad, S. (1990). The Symbol Grounding Problem. Physica D, 42, 335-346. — El argumento seminal sobre por qué los sistemas simbólicos no pueden anclar significado sin experiencia corpórea.
Weizenbaum, J. (1976). Computer Power and Human Reason: From Judgment to Calculation. W.H. Freeman. — La advertencia original sobre el efecto ELIZA y la atribución de empatía a sistemas computacionales.
Arquitectura técnica
Vaswani, A. et al. (2017). Attention is All You Need. NeurIPS 2017. — El paper que estableció la arquitectura transformer, base de todos los LLMs actuales.
Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. NeurIPS 2022. — La demostración empírica de que mostrar pasos intermedios mejora el razonamiento en LLMs.
Investigación en curso
Ali, Z., Vadlapati, P. & Singh, A. (2025). iRAT: Replanning and controlled retrieval for robust LLM reasoning. preprints.org. — Investigación reciente sobre sistemas de recuperación iterativa con control de incertidumbre. Preprint, pendiente de revisión por pares.