Este video explica la idea básica detrás de la regularización en el aprendizaje automático y el aprendizaje profundo. La idea es restringir modelos complejos de aprendizaje automático para que funcionen mejor en conjuntos de datos de prueba/no vistos, es decir, mejorar la generalización. En otras palabras, el objetivo de la regularización es evitar el sobreajuste. Con este fin, este video discute cómo modificar las funciones de costo o pérdida tanto para problemas de clasificación como de regresión con el propósito de la regularización. El parámetro de regularización es una constante en el término de "penalización" añadido a la función de costo, que debe ajustarse para encontrar mejores compensaciones entre sesgo y varianza. Este video discute tanto la regresión Ridge (sklearn.linear_model.Ridge) como LASSO en scikit-learn (sklearn.linear_model.Lasso). Este tutorial también aborda el concepto de regularización para máquinas de soporte vectorial: el parámetro de regularización (a menudo denominado parámetro C en la biblioteca scikit-learn de Python) indica a la optimización SVM cuánto evitar clasificar incorrectamente los puntos de datos de entrenamiento. Finalmente, discutimos la regularización para redes neuronales o aprendizaje profundo, que se conoce como regularizadores de peso de capa en Keras. En particular, usamos kernel_regularizer para aplicar una penalización en el núcleo de la capa. La disminución de peso funciona añadiendo un término de penalización a la función de costo de una red neuronal, lo que tiene el efecto de reducir los pesos.
#Regularización #Sobreajuste #Penalización