Repaso
English
LLMs, RAG y agentesAvanzadoLLM-39

Diseña un asistente de IA que responda a las preguntas de los clientes a partir del centro de ayuda de una empresa. Recorre tu diseño.

Respuesta

  • Primero el alcance: qué preguntas debe responder, cuáles debe rechazar o pasar a una persona, y cuánto cuesta una respuesta errónea.
  • Conocimiento: indexa el centro de ayuda con RAG (fragmentos que respetan la estructura, metadatos, búsqueda híbrida, reordenación) y refréscalo cuando cambien los artículos.
  • Respuesta: responde solo a partir del texto recuperado, cita los artículos y di "no lo sé" con un traspaso fácil a una persona.
  • Seguridad: trata el texto del usuario y el recuperado como no confiable, no des al asistente acceso de escritura y aplica guardarraíles para datos personales y peticiones fuera de tema.
  • Calidad: crea un conjunto de evaluación con tickets reales, mide por separado la recuperación y la fidelidad, y ejecútalo antes de cada cambio de prompt, modelo o índice.
  • Operación: haz streaming de la respuesta, guarda en caché los prefijos estables, enruta las preguntas simples a un modelo pequeño, fija presupuestos y límites de uso, y monitoriza coste, latencia, traspasos y opinión de los usuarios.
  • Lánzalo poco a poco (modo sombra y luego una parte del tráfico) y devuelve los fallos al conjunto de evaluación.

Términos clave

Practica esta pregunta en Repaso