Definición
Técnica que conecta un modelo de IA con los documentos de la empresa: la IA recupera los pasajes pertinentes antes de responder, citando las fuentes.
El RAG (Retrieval-Augmented Generation) resuelve la principal limitación de los LLM: no conocen sus datos internos. El principio: sus documentos (contratos, procedimientos, wikis, correos) se indexan en una base de datos vectorial; para cada pregunta, el sistema recupera los pasajes más pertinentes y se los proporciona al modelo, que responde citando sus fuentes.
El RAG reduce drásticamente las alucinaciones y hace que la IA sea realmente útil en la empresa. Punto de atención en materia de soberanía: el índice contiene una copia condensada de sus documentos más sensibles, por lo que debe alojarse dentro de su perímetro y no en la nube de un tercero.
Una asesoría contable conecta su asistente a sus 4000 expedientes de clientes. Un empleado pregunta por la fecha de cierre de ejercicio de una empresa: el asistente encuentra la respuesta en el expediente correcto y muestra el documento de origen.
En cuanto las respuestas deban proceder de sus propios documentos: procedimientos internos, contratos, base de conocimiento, historial de clientes.
¿El RAG envía mis documentos al exterior?
No, si está instalado dentro de su perímetro. Los documentos y su índice permanecen en sus servidores o en un proveedor de alojamiento soberano, y el modelo se ejecuta en el mismo lugar.
Todos los modelos de IA, desplegados en su infraestructura, con sus documentos conectados.