Un recomendador se reentrena cada semana con los clics. Con los meses, el catálogo que muestra se va estrechando cada vez más. ¿Qué ocurre?
Opciones
- Fuga de datos
- Un bucle de retroalimentación: las propias recomendaciones del modelo moldean los clics con los que luego se entrena, así que refuerza lo que ya muestra (Opción correcta)
- Sobreajuste al conjunto de prueba
- Un fallo en la GPU
Respuesta
Un bucle de retroalimentación: las propias recomendaciones del modelo moldean los clics con los que luego se entrena, así que refuerza lo que ya muestra
Por qué
Los datos de entrenamiento vienen de la reacción de los usuarios a lo que el modelo anterior decidió mostrar. Los elementos que nunca muestra no reciben clics, así que el modelo siguiente no tiene motivo para mostrarlos.
Formas de romper el bucle: mantener algo de exploración (mostrar elementos aleatorios o inciertos a una parte pequeña de los usuarios), registrar lo que se mostró (impresiones) y corregir el sesgo de exposición, y medir la diversidad además de los clics.
Este tipo de problema es invisible en las métricas offline calculadas sobre los mismos registros.
Recuerda
Los modelos que influyen en sus propios datos necesitan exploración.