Qué es RAG en inteligencia artificial y cómo funciona

RAG (Retrieval-Augmented Generation o generación aumentada por recuperación) es una arquitectura que busca información relevante en una fuente externa y la entrega a un modelo de lenguaje como contexto para generar la respuesta.

En lugar de confiar solo en lo aprendido durante el entrenamiento, un sistema RAG puede consultar manuales, políticas, contratos o una base de conocimiento actualizada. Eso permite respuestas más específicas y con fuentes, aunque todavía exige trazabilidad e inteligencia artificial explicable.

Cómo funciona RAG

Un flujo básico tiene dos fases.

Fase de preparación

1. Recopilar documentos.
2. Limpiar y convertir formatos.
3. Dividir el contenido en fragmentos.
4. Crear embeddings.
5. Guardarlos en un índice o base vectorial junto con texto y metadatos.

Fase de consulta

1. El usuario formula una pregunta.
2. El sistema crea un embedding de la consulta.
3. Recupera fragmentos similares.
4. Opcionalmente los reordena.
5. Construye un prompt con evidencia e instrucciones.
6. El modelo genera una respuesta.
7. La aplicación presenta citas y registra la interacción.

Pregunta → búsqueda → fragmentos → contexto → LLM → respuesta con fuentes

Ejemplo práctico

Una empresa crea un asistente para su manual interno:

• Pregunta: “¿Cuántos días tengo para reportar un gasto?”
• El buscador recupera el apartado vigente de reembolsos.
• El prompt ordena responder solo con la evidencia.
• El modelo explica el plazo y enlaza el documento.

Si no encuentra evidencia suficiente, el sistema debería decirlo, no improvisar.

Componentes de una arquitectura RAG

Fuentes

PDF, páginas, tickets, bases de datos, wikis y sistemas empresariales. Cada fuente necesita propietario, fecha, permisos y reglas de actualización.

Ingesta y limpieza

Extrae texto, elimina encabezados repetidos, conserva tablas importantes y asocia metadatos. Una mala extracción limita todo lo demás.

Chunking

Divide documentos en fragmentos. Trozos muy pequeños pierden contexto; muy grandes añaden ruido y consumen ventana.

Estrategias:

• por longitud con solapamiento;
• por secciones y encabezados;
• por párrafos semánticos;
• específica para tablas o código.

Embeddings

Representan texto como vectores. Fragmentos con significado parecido quedan próximos. La guía de embeddings en IA desarrolla similitud y bases vectoriales.

Recuperador

Puede usar búsqueda semántica, palabras clave o un enfoque híbrido. Los metadatos filtran por idioma, fecha, departamento o permisos.

Reranker

Reordena candidatos con un modelo más preciso. Recuperar muchos y reordenar pocos suele mejorar relevancia, con costo adicional.

Generador

El modelo recibe pregunta, instrucciones y evidencia. El prompt debe exigir:

• usar solo el contexto cuando corresponda;
• reconocer insuficiencia;
• citar fragmentos;
• no mezclar instrucciones contenidas en documentos con instrucciones del sistema.

Búsqueda semántica vs palabras clave

La búsqueda semántica encuentra conceptos aunque no compartan términos exactos. La léxica destaca coincidencias literales, valiosas para códigos, nombres y cláusulas.

El enfoque híbrido combina ambas y suele funcionar bien en colecciones empresariales. Un RAG profesional no depende de una única métrica de similitud.

Ventajas de RAG

• Actualiza conocimiento sin reentrenar el modelo.
• Conecta respuestas con fuentes.
• Adapta un asistente al dominio.
• Permite controles de permisos.
• Reduce ciertas alucinaciones.
• Facilita corregir contenido en la base documental.
• Puede funcionar con diferentes modelos.

Limitaciones

• Recuperar evidencia incorrecta produce respuestas incorrectas.
• Un fragmento relevante puede quedar fuera del top-k.
• Los documentos pueden estar obsoletos o contradecirse.
• Las tablas, imágenes y PDFs escaneados requieren tratamiento.
• El modelo puede ignorar el contexto.
• Las citas pueden no respaldar exactamente la frase.
• Añade latencia, infraestructura y costo.
• Existe riesgo de fuga de información y prompt injection.

RAG no “entrena” al modelo con tus documentos en cada pregunta. Los recupera y los incluye temporalmente en el contexto.

RAG vs fine-tuning

Necesidad	RAG	Fine-tuning
Conocimiento actualizado	Fuerte	Débil por sí solo
Citar documentos	Natural	No garantiza fuentes
Cambiar estilo o formato	Posible con prompt	Muy útil
Incorporar hechos privados	Recuperación	No es la primera opción
Actualizar contenido	Reindexar	Reentrenar

Se pueden combinar: fine-tuning para comportamiento y RAG para conocimiento.

Cómo evaluar un sistema RAG

Evalúa componentes por separado.

Recuperación

• recall de documentos relevantes;
• precisión en top-k;
• posición del fragmento correcto;
• cobertura por tipo de pregunta;
• respeto de filtros y permisos.

Respuesta

• fidelidad al contexto;
• exactitud;
• completitud;
• utilidad;
• calidad de citas;
• capacidad de abstenerse.

Operación

• latencia;
• costo;
• tasa de errores;
• frescura del índice;
• satisfacción del usuario.

Crea un conjunto de preguntas reales con respuesta y evidencia esperadas. No evalúes solo ejemplos fáciles escritos por el equipo.

Seguridad

Los documentos son datos no confiables: pueden contener instrucciones maliciosas. Separa contenido de instrucciones, limita herramientas y aplica permisos antes de recuperar.

Además:

• cifra datos sensibles;
• registra accesos;
• minimiza información personal;
• aplica filtros por usuario;
• evita enviar secretos a modelos no autorizados;
• prueba extracción de datos y prompt injection;
• muestra fuentes al usuario.

Cuándo usar RAG

Es apropiado cuando las respuestas dependen de un corpus cambiante o privado y necesitas trazabilidad. No es necesario para preguntas generales que el modelo resuelve de forma estable ni para bases estructuradas donde una consulta SQL directa es más precisa.

Un agente de IA puede usar RAG como una herramienta, pero RAG por sí solo no implica autonomía ni planificación. La guía de herramientas de IA para recopilar datos muestra otros usos prácticos.

Preguntas frecuentes

¿Qué significa RAG?
Retrieval-Augmented Generation: generación aumentada por recuperación.

¿RAG elimina las alucinaciones?
No. Reduce algunas al aportar evidencia, pero puede recuperar mal, usar fuentes defectuosas o generar afirmaciones no respaldadas.

¿RAG necesita una base vectorial?
No siempre. Puede usar búsqueda léxica, SQL o servicios documentales; una base vectorial es común para búsqueda semántica.

¿Cuál es la diferencia entre RAG y entrenar un modelo?
RAG aporta contexto en tiempo de consulta. El entrenamiento modifica parámetros del modelo.

¿Qué es chunking?
Es dividir documentos en fragmentos recuperables con suficiente contexto y tamaño manejable.

¿Cómo sé si mi RAG funciona?
Mide recuperación, fidelidad, calidad de citas, abstención, latencia y costo sobre preguntas representativas.