Qué es RAG y por qué la IA responde mejor cuando le das tus documentos

Wait 5 sec.

RAG (retrieval-augmented generation, generación aumentada por recuperación) es la técnica que hace que un chatbot, antes de contestar, busque en tus documentos los fragmentos relevantes y redacte la respuesta a partir de ellos. Es lo que hay detrás de herramientas como Gemini Notebook (antes NotebookLM) o del modo ampliado de los Proyectos de Claude. Funciona mejor que preguntar «a pelo» porque el modelo trabaja con tu texto delante, puede citarlo y no depende solo de lo que memorizó al entrenarse. Pero no elimina los errores: reduce el margen, no lo cierra.¿De dónde sale la idea?De un artículo de 2020. El paper Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, firmado por Patrick Lewis y otros once autores y aceptado en la conferencia NeurIPS 2020, partía de un problema que sigue vigente: los grandes modelos de lenguaje guardan conocimiento en sus parámetros, pero les cuesta acceder a él con precisión, justificar de dónde sale una respuesta y actualizarse.Su propuesta fue combinar dos memorias. Una paramétrica, el propio modelo, y otra no paramétrica: un índice vectorial de la Wikipedia consultado por un buscador neuronal. Con esa combinación lograron el mejor resultado del momento en tres tareas de preguntas y respuestas de dominio abierto, y comprobaron que el texto generado era «más específico, diverso y factual» que el de un modelo equivalente sin recuperación.La traducción para el usuario corriente: en lugar de pedirle a la IA que recuerde, le das la biblioteca y le pides que consulte.¿Cómo funciona por dentro, paso a paso?La documentación de file search de OpenAI lo describe con bastante claridad, y sirve como ejemplo del proceso general:Trocear. Cada archivo se divide en fragmentos. En la API de OpenAI, por defecto, de 800 tokens con un solapamiento de 400 entre fragmentos consecutivos, para que una idea no quede partida por la mitad.Indexar. Cada fragmento se convierte en un embedding, una representación numérica de su significado, y se guarda en un almacén vectorial.Buscar. Cuando preguntas, el sistema combina búsqueda semántica y por palabras clave. La semántica encuentra fragmentos relevantes aunque no compartan ni una palabra con tu pregunta. La API devuelve 10 resultados por defecto y admite hasta 50.Responder con citas. El modelo recibe esos fragmentos junto a tu pregunta y redacta la respuesta, con anotaciones que apuntan a los archivos de origen.El paso crítico es el tercero. Si la búsqueda trae el fragmento equivocado, el modelo redactará con mucha seguridad sobre la base equivocada.¿Dónde lo estás usando sin saberlo?En más sitios de los que parece. Gemini Notebook, que es como se llama NotebookLM desde que Google anunció el cambio de nombre el 16 de julio de 2026, se presenta precisamente como un asistente que responde a partir de tus fuentes y con citas en línea. Según su ayuda, a octubre de 2026 cada fuente admite hasta 500.000 palabras o 200 MB, y los usuarios gratuitos pueden añadir hasta 50 fuentes por cuaderno. Es la misma herramienta con la que puedes generar un podcast con IA a partir de tus documentos en NotebookLM, ahora con otro nombre.En Claude, los Proyectos de los planes de pago activan RAG solos cuando el conocimiento subido se acerca al límite de la ventana de contexto. Según la ayuda de Anthropic, eso amplía la capacidad del proyecto «hasta 10 veces», y se nota porque Claude empieza a usar una herramienta de búsqueda en el conocimiento del proyecto en lugar de cargarlo todo de golpe.¿Por qué no basta con meterlo todo en la ventana de contexto?Porque una ventana grande no garantiza una lectura atenta. Si no tienes claro qué es esa ventana, aquí va una explicación de por qué la IA «se olvida» de lo que le dijiste: tokens y ventana de contexto sin jerga.El estudio Lost in the Middle, publicado en la revista TACL en 2023, mostró que el rendimiento de los modelos cae de forma significativa cuando la información relevante está en mitad de un contexto largo, incluso en modelos diseñados para contextos largos; rinden mejor cuando el dato está al principio o al final. RAG esquiva parte del problema: en lugar de cien páginas, el modelo recibe los pocos fragmentos que importan.Ojo, no es una ley universal. Anthropic explica que sus proyectos prefieren el procesamiento en contexto «cuando es posible» y solo recurren a RAG al acercarse al límite. Para un documento corto, dárselo entero sigue siendo lo sensato.¿Elimina RAG las alucinaciones?No. Las reduce, pero no las elimina, y hay un estudio que lo cuantifica en un terreno muy delicado. El trabajo preregistrado Hallucination-Free?, en su versión de mayo de 2024, evaluó herramientas de investigación jurídica basadas en RAG de LexisNexis y Thomson Reuters. Algunos proveedores las anunciaban como capaces de «eliminar» o «evitar» las alucinaciones; el estudio encontró que alucinaban entre un 17 % y un 33 % de las veces, aunque menos que un chatbot generalista como GPT-4.Las citas tampoco son un salvoconducto. Que una respuesta enlace a tu documento indica de dónde partió el modelo, no que lo haya resumido bien. Si el dato importa, abre la cita y lee el párrafo original; es el mismo hábito que conviene aplicar para comprobar si un estudio, una cita o una ley que te da una IA existen de verdad.Mi lectura de los fallos típicos, que no sale de un paper sino de cómo está construido el sistema: documentos desactualizados que el buscador recupera igual, fragmentos cortados en mal sitio y preguntas ambiguas que traen el trozo equivocado. Todos tienen arreglo parcial en tus manos: nombres de archivo claros (Anthropic lo recomienda expresamente), documentos sin versiones viejas mezcladas y preguntas que mencionen el documento concreto.RAG es probablemente la idea de IA más útil para el día a día y la peor vendida. Se presenta como un antídoto contra las invenciones cuando en realidad es una forma de poner al modelo a leer antes de hablar, y eso ya es mucho. Creo que la regla sana es tratar una respuesta con RAG como la de un becario espabilado con acceso a tu archivo: rápida, normalmente bien encaminada y siempre pendiente de revisión cuando hay algo en juego.La noticia Qué es RAG y por qué la IA responde mejor cuando le das tus documentos fue publicada originalmente en Wwwhatsnew.com por Natalia Polo.