Repaso
English
MLOps y despliegueAvanzadoMLO-39

Diseña cómo desplegarías y monitorizarías un modelo de puntuación de fraude que debe responder en menos de 100 ms.

Respuesta

  • Servicio: una API online tras un contenedor, con el modelo cuantizado o dimensionado para cumplir el objetivo de latencia, y las latencias p95 y p99 vigiladas por etapa.
  • Features: un feature store con una parte online para features frescas con ventana y otra offline para el entrenamiento, con las mismas definiciones y con joins point-in-time.
  • Lanzamiento: primero en sombra, luego un canary pequeño frente al modelo actual con umbrales de parada automática, y un rollback instantáneo a la versión anterior del registro.
  • Monitorización: salud del servicio, distribuciones de entradas y predicciones por segmento, y las etiquetas de fraude según llegan (a menudo días después), con alertas por tamaño del cambio.
  • Reentrenamiento: por calendario más disparadores de deriva, con validación de datos y una puerta de promoción sobre un conjunto de reserva fijo que incluya el periodo reciente.
  • Redes de seguridad: una puntuación de reserva basada en reglas si fallan el modelo o el feature store, caché donde sirva y un rastro de auditoría de la versión del modelo, las features y la decisión de cada puntuación.
  • Retroalimentación: las decisiones de los investigadores vuelven como etiquetas, con cuidado con el sesgo de selección, porque solo se revisan los casos marcados.

Términos clave

Practica esta pregunta en Repaso