¿Qué modelo se ve más afectado si olvidas escalar features numéricas con rangos muy distintos?
Opciones
- Random forest
- Árboles con gradient boosting
- Árbol de decisión
- k vecinos más cercanos (k-nearest neighbours) (Opción correcta)
Respuesta
k vecinos más cercanos (k-nearest neighbours)
Por qué
k vecinos más cercanos compara distancias. Una feature medida en miles (el sueldo) aplasta a otra medida en unidades (el número de hijos), así que escalar cambia qué puntos son vecinos.
Los modelos basados en árboles dividen con umbrales de una feature cada vez, así que un reescalado monótono no cambia sus divisiones.
Los SVM, los modelos lineales con regularización y las redes neuronales también necesitan escalado.
Recuerda
Los métodos de distancia y penalización necesitan escalado; los árboles no.