Pregúntale a un LLM por sus propios datos de entrenamiento y lo hará bien. Pregúntale por tu política de precios interna del martes pasado e inventará algo seguro y erróneo. La razón es simple y a menudo malinterpretada: un modelo no es Google y no tiene memoria tras el entrenamiento. Todo lo que «sabe» para una respuesta concreta tiene que entregársele dentro de la petición.
El arreglo estándar es el RAG — Retrieval-Augmented Generation, generación aumentada por recuperación. Este artículo lo explica desde los primeros principios, sin jerga, y muestra dónde sentirlo en funcionamiento en una herramienta real.
La frase que lo resume
Un modelo no puede recordar tus documentos, así que, en lugar de hacer que los recuerde, recuperas la parte relevante de tus documentos en el momento de responder y la pegas en el prompt. El modelo entonces redacta una respuesta basada en esas palabras exactas.
Eso es todo. Todo el campo de «la IA que lee la base de conocimiento de tu empresa» se construye sobre ese truco.
Por qué el modelo necesita ayuda en absoluto
Dos propiedades fuerzan el diseño:
- Sin memoria posterior al entrenamiento. Un LLM preentrenado es una instantánea. No se actualiza, no navega, no recuerda. Para usar información nueva o privada, esa información debe entrar en la ventana de contexto de la petición.
- La ventana de contexto es finita. No puedes volcar mil páginas en el prompt. Así que necesitas una forma de elegir, rápido, los pasajes realmente relevantes para la pregunta.
El RAG resuelve elegir + pegar.
El pipeline en cuatro pasos
| Paso | Qué ocurre | Por qué |
|---|---|---|
| 1. Ingesta (offline) | Divide cada documento en fragmentos pequeños y convierte cada uno en un embedding (un vector de su significado) | Para poder buscar por significado, no por palabras clave |
| 2. Consulta | Convierte la pregunta del usuario en el mismo espacio vectorial | Para poder compararla con los fragmentos |
| 3. Recuperación | Encuentra los fragmentos cuyos vectores están «más cerca» del vector de la pregunta | Elige los pasajes genuinamente relevantes |
| 4. Generación | Pone esos fragmentos en el prompt como contexto de anclaje | Permite al modelo responder desde las fuentes |
Dos piezas merecen una mirada más atenta, porque son las que la gente suele pasar por alto.
El significado incrustado supera a la búsqueda por palabras clave
Un embedding es una lista de números que representa el significado del texto, organizada para que los significados similares queden en puntos cercanos del espacio. Busca «¿cómo devuelvo esta factura?» y un corpus de documentos de «política de devoluciones» sale a la superficie aunque no aparezca ninguna palabra clave exacta — porque el significado está cerca. La búsqueda por palabras clave falla ante la paráfrasis; la búsqueda por embeddings no le importa la redacción, solo el tema.
Un buen fragmentado importa más de lo que parece
Antes de crear el embedding, el documento se divide en fragmentos — piezas pequeñas y autocontenidas que respetan los límites de párrafos y encabezados. Un capítulo entero se incrusta mal y no puede recuperarse como fragmento; una pieza bien troceada es una idea coherente que cabe en el prompt junto a todo lo demás. La calidad del fragmentado suele importar más de lo que la gente espera.
RAG vs. fine-tuning vs. prompting
| Enfoque | Cambia | Coste | Cuándo |
|---|---|---|---|
| Prompting | Nada — escribes mejores instrucciones | Gratis | La mayoría de las tareas cotidianas |
| RAG | El contexto que alimentas | Barato, reversible, auditable | Hechos privados/actualizados, cita de fuentes, respuestas con recuperación |
| Fine-tuning | Los pesos del modelo | Caro, irreversible, necesita datos | Especializar un modelo en un estilo/dominio reducido |
El superpoder del RAG es que siempre sabes exactamente qué documentos anclaron una respuesta — auditoría completa. Por eso las plataformas de conocimiento que se preocupan por la corrección se apoyan en él en lugar de en el fine-tuning.
Siéntelo en funcionamiento
La forma más limpia de experimentar el pipeline es meter tus propios documentos en un almacén RAG real y hacerles preguntas que tu modelo nunca vio durante el entrenamiento. La Base de Conocimiento de SynthHires (/space/knowledge) es exactamente eso: sube PDFs, DOCX, Markdown, una URL o incluso un vídeo de YouTube; los fragmenta y los incrusta; luego puedes reutilizar los fragmentos coincidentes como contexto de anclaje en cualquier chat.
- Mira la mecánica completa (embeddings, fragmentado, RAG) en Conceptos de IA desde cero.
- Mira la superficie del producto (ingesta, búsqueda semántica, estados) en Memoria y conocimiento.
El límite que hay que recordar
El RAG ancla el modelo en lo que recuperaste, pero no lo hace omnisciente sobre todo tu corpus — solo sobre los fragmentos que trajo en esta pasada. El arte de un buen montaje RAG es: fragmentar bien, recuperar las porciones correctas y mantener la ventana enfocada. Consigue eso y tu IA dejará de alucinar sobre tu martes pasado y empezará realmente a conocerlo.