Explica cómo funciona RAG de principio a fin.
Respuesta
- Indexación (offline): divide los documentos en fragmentos, convierte cada fragmento en un embedding y guárdalos con su texto y sus metadatos en un índice vectorial.
- Consulta: calcula el embedding de la pregunta del usuario con el mismo modelo y trae los fragmentos más cercanos (a menudo mezclados con búsqueda por palabras clave).
- Pasos opcionales: filtrar por permisos, reordenar los candidatos y recortar a los pocos mejores.
- Generación: pon los fragmentos y la pregunta en el prompt, dile al modelo que responda solo a partir de ellos, que los cite y que avise cuando la respuesta no esté.
- Actualizar el conocimiento significa volver a indexar los documentos que cambiaron, no reentrenar el modelo.
- Evalúa por separado la recuperación (¿se encuentra el fragmento correcto?) y la generación (¿se desprende la respuesta de los fragmentos?).
Practica esta pregunta en Repaso