¿Cuándo y por qué usas validación cruzada anidada?

Problema: si eliges hiperparámetros con validación cruzada y luego reportas esa misma puntuación, el número es optimista, porque se eligió el mejor resultado.
Bucle externo: divide los datos en k partes para estimar el rendimiento con datos no vistos.
Bucle interno: dentro de cada parte de entrenamiento externa, hace otra validación cruzada (por ejemplo una búsqueda en rejilla) para elegir los hiperparámetros.
Reporta el promedio de las puntuaciones de prueba externas: estima todo el procedimiento "ajustar y entrenar", no un modelo fijo.
Cuesta k veces la búsqueda. Úsala con conjuntos de datos pequeños o para comparar familias de modelos de forma justa; con muchos datos basta un conjunto de prueba aparte.
El modelo final se ajusta después con todos los datos con una búsqueda más.