Un equipo de investigadores de OpenAI y Georgia Tech preguntó a un modelo abierto de última generación la fecha de cumpleaños de uno de ellos, Adam Tauman Kalai, con una condición: responder solo si la sabía. En tres intentos dio tres fechas distintas, las tres falsas. El ejemplo abre el paper Why Language Models Hallucinate, publicado en septiembre de 2025, y resume bien el problema: el modelo no dijo «no lo sé». Se inventó la respuesta con total aplomo.Las alucinaciones son afirmaciones plausibles pero falsas. Según OpenAI, nacen de cómo se entrena a los modelos para predecir texto y sobreviven porque las pruebas con las que se los mide premian adivinar en lugar de reconocer la duda. Esta guía explica ese mecanismo, qué tasas de error se han medido y qué puedes hacer como usuario. Si lo que necesitas es comprobar una referencia concreta, tienes cómo saber si un estudio, una cita o una ley que te da una IA existen.¿Qué es exactamente una alucinación de la IA?Es una respuesta que suena correcta y no lo es. OpenAI las define en su artículo divulgativo sobre el paper, del 5 de septiembre de 2025, como «afirmaciones plausibles pero falsas generadas por modelos de lenguaje».La clave está en «plausibles». Un error absurdo se detecta enseguida. Una fecha verosímil, una cita bien construida o un enlace con aspecto de real pasan el filtro del lector. Google lo advierte en su explicador sobre alucinaciones: la falta de fundamentación puede llevar a resultados aparentemente plausibles pero incorrectos, incluso a crear enlaces a páginas web que nunca han existido.¿Por qué se inventan las cosas en lugar de decir «no lo sé»?Por dos motivos que se suman, según el paper de OpenAI firmado por Adam Tauman Kalai, Ofir Nachum, Edwin Zhang (OpenAI) y Santosh Vempala (Georgia Tech).El primero está en el entrenamiento inicial. Un modelo aprende a predecir texto a partir de enormes cantidades de ejemplos. Los autores relacionan generar respuestas válidas con un problema de clasificación: distinguir lo válido de lo erróneo. Si el modelo no puede separar unas afirmaciones de otras, acabará produciendo errores. Hay patrones que se aprenden bien, como la ortografía. Pero hay hechos arbitrarios, sin patrón, que no se pueden deducir: un cumpleaños, por ejemplo.Para esos casos dan una regla llamativa. Si el 20% de los cumpleaños presentes en los datos de entrenamiento aparece una sola vez, cabe esperar que el modelo base alucine al menos en el 20% de las preguntas sobre cumpleaños. Lo que se ha visto una vez no se puede distinguir bien de lo que nunca se ha visto.El segundo motivo explica por qué el problema no desaparece después. Los modelos se evalúan con pruebas que dan un punto por acierto y cero por respuesta en blanco o por «no lo sé». Es como un examen tipo test sin penalización: contestar al azar siempre sale a cuenta. Los autores hablan de una «epidemia» de pruebas que castigan la incertidumbre, y concluyen que los modelos están optimizados para ser buenos examinandos.¿Cuánto se equivocan? Las cifras medidasVaría mucho según la tarea, y por eso conviene desconfiar de cualquier cifra única. Tres ejemplos con fuente:EstudioQué midióResultadoOpenAI, SimpleQA (2025)Preguntas factuales cortasgpt-5-thinking-mini: 26% de errores y 52% de abstenciones; o4-mini: 75% de errores y 1% de abstencionesLarge Legal Fictions (2024)Preguntas verificables sobre casos judiciales federales de EE. UU.Alucinaciones entre el 58% (ChatGPT 4) y el 88% (Llama 2)Hallucination-Free? (2024)Herramientas jurídicas profesionales con recuperación de documentosEntre el 17% y el 33%La primera fila es la más reveladora. En la tabla que publica OpenAI, o4-mini acierta un poco más que gpt-5-thinking-mini (24% frente a 22%), pero se equivoca casi tres veces más porque casi nunca se abstiene. Un ranking que solo mire aciertos premiaría al modelo que más inventa. Si te interesa qué aportan este tipo de modelos, lo contamos en qué son los modelos de IA de razonamiento y cuándo merece la pena dejarlos pensar.El estudio jurídico de 2024, publicado en el Journal of Legal Analysis, añade dos hallazgos incómodos: los modelos a menudo no corrigen las premisas erróneas del usuario y no siempre saben cuándo están alucinando. El segundo, un estudio preregistrado, mostró que herramientas de LexisNexis y Thomson Reuters seguían inventando pese a que algunos proveedores del sector prometían evitar las alucinaciones gracias a la recuperación de documentos (RAG). Menos que un chatbot general, sí, pero lejos de cero.¿Se pueden eliminar las alucinaciones?Del todo, no; reducirlas, sí. OpenAI sostiene en su artículo que no son inevitables, porque un modelo puede abstenerse cuando no sabe. También que la precisión nunca llegará al 100%, porque hay preguntas que no tienen respuesta accesible.Su propuesta de fondo no es técnica, sino de incentivos: cambiar cómo puntúan las pruebas que dominan las clasificaciones. Plantean instrucciones con un umbral de confianza explícito, del tipo «responde solo si tu confianza supera el umbral t, porque los errores penalizan». La empresa añade que GPT-5 tiene «significativamente menos» alucinaciones, sobre todo al razonar, pero que siguen ocurriendo.Mientras tanto, como usuario puedes aplicar lo que las propias empresas recomiendan a quien construye con sus modelos:Da permiso para dudar. La guía de Anthropic para reducir alucinaciones dice que permitir explícitamente al modelo admitir que no sabe algo puede reducir «drásticamente» la información falsa.Ancla la respuesta a un texto. Anthropic aconseja pedir citas literales del documento antes de analizarlo, y retirar cualquier afirmación que no tenga cita que la respalde. Google recomienda fundamentar los modelos con tus propios datos mediante RAG.Mira las fuentes, si las hay. Gemini muestra un botón de Fuentes cuando su respuesta se apoya en enlaces, aunque no todas las respuestas lo incluyen.Sé más escéptico con lo raro. Nombres poco conocidos, fechas, cifras exactas y jurisprudencia son terreno de hechos arbitrarios, justo donde el paper predice más errores. Es la razón por la que usar la IA para estudiar exige contrastar los datos concretos.Mi lectura del paper de OpenAI es que su mérito no está en la estadística, sino en desmontar una excusa. Durante años, las alucinaciones se presentaron como un misterio casi inevitable de la tecnología. La explicación que dan sus propios investigadores es más prosaica e incómoda: los modelos inventan en parte porque la industria los ha medido con exámenes que premian inventar. Eso tiene arreglo, pero exige aceptar modelos que dicen «no lo sé» más a menudo y que, en las clasificaciones de siempre, parecerán peores.La noticia Por qué la IA se inventa cosas: qué son las alucinaciones y qué se sabe de su origen fue publicada originalmente en Wwwhatsnew.com por Natalia Polo.