Para quién es: Responsables de producto, equipos de soporte y profesionales que quieren un asistente que conozca la documentación de su empresa.
El problema que resuelve
Un modelo de lenguaje sabe lo que aprendió durante su entrenamiento, pero no conoce el manual de tu producto, las políticas de tu empresa ni los casos de tu despacho. Anthropic lo explica con dos ejemplos: un chatbot de atención al cliente necesita conocer el negocio concreto, y un asistente legal necesita conocer muchos casos anteriores.
RAG (Retrieval-Augmented Generation, generación aumentada por recuperación) es la técnica habitual para darle ese conocimiento: antes de responder, el sistema busca los fragmentos relevantes de tu documentación y los añade a la petición.
Cómo funciona, paso a paso
Según la descripción de Anthropic, un sistema RAG típico prepara la base de conocimiento así:
- Divide los documentos en fragmentos pequeños, normalmente de unos cientos de tokens.
- Convierte cada fragmento en un embedding, una lista de números que representa su significado.
- Guarda esos embeddings en una base de datos vectorial que permite buscar por parecido semántico.
- Cuando llega una pregunta, busca los fragmentos más parecidos y los añade al prompt del modelo.
Servicios que lo hacen por ti
No siempre hay que construirlo desde cero. OpenAI ofrece una Retrieval API basada en vector stores: subes tus archivos a un almacén y el servicio permite hacer búsqueda semántica, que encuentra resultados parecidos aunque no compartan palabras clave. Otros proveedores y plataformas en la nube ofrecen herramientas equivalentes. Para quien no programa, productos como Gemini Notebook aplican una idea parecida: trabajas sobre las fuentes que subes al cuaderno.
¿Y si meto todos los documentos en el prompt?
A veces es la opción más simple. Anthropic indica que, si tu base de conocimiento ocupa menos de 200.000 tokens (unas 500 páginas), puedes incluirla entera en el prompt sin RAG. Google recuerda que muchos modelos Gemini tienen ventanas de un millón de tokens o más, equivalentes según su documentación a unas 50.000 líneas de código u ocho novelas, y propone aportar toda la información relevante desde el principio.
La regla práctica: si tus documentos caben y cambian poco, prueba primero con contexto largo. Si son miles de páginas o se actualizan constantemente, RAG suele ser más escalable.
El punto débil y cómo mejorarlo
El RAG tradicional pierde contexto al trocear: un fragmento que dice «los ingresos crecieron un 3 %» no indica de qué empresa ni de qué trimestre. Anthropic propuso en 2024 la recuperación contextual, que añade a cada fragmento una breve explicación de su contexto antes de indexarlo. Según la empresa, reduce los fallos de recuperación un 49 %, y un 67 % si se combina con reordenación de resultados.
Preguntas para decidir
Antes de montar un sistema RAG, responde a estas preguntas:
- ¿Cuánto ocupa la documentación y con qué frecuencia cambia?
- ¿Las respuestas deben citar el documento de origen?
- ¿Hay documentos con permisos distintos según el usuario?
- ¿Quién revisará que las respuestas sean correctas antes de ponerlo en producción?
Ejemplo: el asistente de una tienda online
Una tienda quiere que su asistente responda sobre envíos, devoluciones y garantías. Sus políticas ocupan unas 40 páginas y cambian dos veces al año. Como caben de sobra en la ventana de contexto de los modelos actuales, la opción más sencilla es incluirlas completas en cada conversación. Si la tienda añadiera después miles de fichas de producto que cambian a diario, convendría pasar a un sistema RAG que recupere solo las fichas relevantes para cada pregunta y que cite la ficha de origen en la respuesta.
Límites
RAG mejora la relevancia, pero no garantiza la exactitud: si recupera el fragmento equivocado, el modelo responderá con seguridad sobre información incorrecta. Mide con preguntas reales cuyas respuestas conozcas y revisa los permisos de acceso a los documentos.
Fuentes y fecha
Guía original firmada por Ivan Quiros Mortera y redactada con ayuda de IA a partir de la documentación oficial enlazada, leída el 24 de octubre de 2026. No se atribuye revisión humana ni pruebas propias de los productos citados. Si detectas un error, escríbenos.
- Contextual retrieval in AI systems · Anthropic
- Retrieval · OpenAI
- Contexto largo · Google