¿Qué es una alucinación en el contexto de los LLM?
Opciones
- Una respuesta fluida pero falsa o no respaldada por las fuentes (Opción correcta)
- El modelo se niega a responder una pregunta
- Una respuesta muy lenta
- El modelo repitiendo la pregunta del usuario
Respuesta
Una respuesta fluida pero falsa o no respaldada por las fuentes
Por qué
Un LLM produce la continuación más probable del texto. Nada en ese proceso comprueba los hechos, así que puede afirmar algo falso de forma segura y bien escrita.
Es más probable cuando la pregunta trata de datos poco comunes, hechos recientes o cosas que no se le dieron.
La defensa habitual es darle al modelo el texto de la fuente y pedirle que responda solo a partir de él.
Recuerda
Alucinación = segura pero sin respaldo.