¿Qué problema resuelve la generación aumentada con recuperación (RAG)?
Opciones
- Reentrena los pesos del modelo con cada pregunta
- Elimina el límite de la ventana de contexto
- Da al modelo información relevante, actual o privada en el momento de la pregunta, recuperándola y añadiéndola al prompt (Opción correcta)
- Hace innecesarios los prompts
Respuesta
Da al modelo información relevante, actual o privada en el momento de la pregunta, recuperándola y añadiéndola al prompt
Por qué
Un modelo solo sabe lo que había en sus datos de entrenamiento, que son antiguos y no incluyen tus documentos privados.
RAG busca en tus documentos los pasajes relacionados con la pregunta y los pone en el prompt, para que el modelo pueda responder a partir de ellos y citarlos.
El modelo no cambia: actualizar el conocimiento significa actualizar los documentos y el índice.
Recuerda
RAG = primero recuperar, luego generar a partir de lo encontrado.