Un equipo anterior en el flujo de datos renombra una columna. El pipeline rellena la feature con nulos sin avisar, y la calidad del modelo se hunde semanas después. ¿Qué lo habría detectado a tiempo?
Opciones
- Comprobaciones de validación de datos en la ingesta (esquema, proporción de nulos, rangos, distribuciones) que hagan fallar el pipeline o lancen una alerta (Opción correcta)
- Un modelo más grande
- Reentrenar con más frecuencia
- Una GPU más rápida
Respuesta
Comprobaciones de validación de datos en la ingesta (esquema, proporción de nulos, rangos, distribuciones) que hagan fallar el pipeline o lancen una alerta
Por qué
Muchos fallos de ML son fallos de datos que nadie ve, porque el código sigue ejecutándose. Reentrenar con los datos rotos solo haría que el modelo aprendiera la rotura.
Valida los datos a la entrada del pipeline y antes de entrenar: columnas y tipos esperados, proporción máxima de nulos, rangos de valores y comprobaciones de distribución frente a una referencia. Herramientas como TFDV o Great Expectations ayudan.
Falla rápido y avisa al responsable de los datos.
Recuerda
Valida los datos en la puerta; falla rápido.