Construyes un asistente interno de RR. HH. sobre documentos de políticas, y algunos documentos solo son visibles para ciertos departamentos. ¿Dónde debes aplicar el control de acceso?
Opciones
- En el prompt de sistema: "muestra solo los documentos que el usuario puede ver"
- En el momento de la recuperación: filtrar la búsqueda por los permisos del usuario, de modo que el texto no autorizado nunca llegue al prompt (Opción correcta)
- Después de la generación, buscando palabras prohibidas en la respuesta
- Cifrando los embeddings
Respuesta
En el momento de la recuperación: filtrar la búsqueda por los permisos del usuario, de modo que el texto no autorizado nunca llegue al prompt
Por qué
Todo lo que está en el prompt puede acabar en la respuesta, ya sea con una pregunta normal o con una inyección. No se puede confiar en que el modelo guarde secretos que se le han mostrado.
Por eso el filtro de permisos va en el paso de recuperación (por ejemplo, un filtro de metadatos en la búsqueda vectorial), usando la identidad del usuario real.
Revisar la salida es una capa extra útil, pero un control principal débil.
Recuerda
Aplica los permisos antes de que el texto llegue al modelo.