Diseña un asistente de IA que responda a las preguntas de los clientes a partir del centro de ayuda de una empresa. Recorre tu diseño.
Respuesta
- Primero el alcance: qué preguntas debe responder, cuáles debe rechazar o pasar a una persona, y cuánto cuesta una respuesta errónea.
- Conocimiento: indexa el centro de ayuda con RAG (fragmentos que respetan la estructura, metadatos, búsqueda híbrida, reordenación) y refréscalo cuando cambien los artículos.
- Respuesta: responde solo a partir del texto recuperado, cita los artículos y di "no lo sé" con un traspaso fácil a una persona.
- Seguridad: trata el texto del usuario y el recuperado como no confiable, no des al asistente acceso de escritura y aplica guardarraíles para datos personales y peticiones fuera de tema.
- Calidad: crea un conjunto de evaluación con tickets reales, mide por separado la recuperación y la fidelidad, y ejecútalo antes de cada cambio de prompt, modelo o índice.
- Operación: haz streaming de la respuesta, guarda en caché los prefijos estables, enruta las preguntas simples a un modelo pequeño, fija presupuestos y límites de uso, y monitoriza coste, latencia, traspasos y opinión de los usuarios.
- Lánzalo poco a poco (modo sombra y luego una parte del tráfico) y devuelve los fallos al conjunto de evaluación.
Practica esta pregunta en Repaso