RAG: generación aumentada por recuperación
Qué es RAG en inteligencia artificial
RAG, en inteligencia artificial, son las siglas en inglés de retrieval-augmented generation: generación aumentada por recuperación. Es una forma de usar un modelo de lenguaje en la que, antes de responder, el sistema busca los fragmentos relevantes en un conjunto de documentos propios y se los pasa al modelo. El modelo responde a partir de ese material, no solo de lo que aprendió durante su entrenamiento.
La diferencia práctica es grande. Un modelo de lenguaje por sí solo no conoce tus contratos, tus pliegos ni tus procedimientos internos, y puede inventar una respuesta que suena bien. Con RAG la respuesta se apoya en textos concretos y puede indicar de dónde sale cada dato.
Cómo funciona la generación aumentada por recuperación
Un sistema RAG tiene dos partes:
Indexación
Los documentos se dividen en fragmentos y cada fragmento se convierte en un vector, una lista de números que representa su significado. Esos vectores se guardan en un índice, normalmente una base de datos vectorial.
Recuperación y generación
Cuando alguien hace una pregunta, la pregunta también se convierte en vector. El sistema busca los fragmentos más parecidos por significado, no solo por palabras exactas, y se los entrega al modelo junto con la pregunta. El modelo redacta la respuesta usando esos fragmentos y puede citar el documento y la página de origen.
RAG o reentrenar el modelo
Hay dos formas de que un modelo trabaje con conocimiento propio: reentrenarlo (fine-tuning) o usar RAG. Reentrenar cambia el comportamiento del modelo y sirve para enseñarle un estilo o un formato. RAG no toca el modelo: cambia la información que recibe en cada consulta. Si los documentos cambian a menudo o hace falta saber de dónde sale cada respuesta, RAG suele ser la opción más práctica, porque basta con añadir los documentos nuevos al índice.
Un ejemplo sencillo
Un técnico pregunta qué penalizaciones por retraso tiene un contrato. Un sistema RAG busca en los documentos de esa licitación los fragmentos que hablan de penalizaciones, se los pasa al modelo y este responde con el dato y la referencia al documento donde aparece. El técnico puede abrir el original y comprobarlo.