Intervenant : Alfredo Canziani
0:00:00 – Semaine 14 – Pratique
Lors de l'entraînement de modèles hautement paramétrés tels que les réseaux de neurones profonds, il existe un risque de surapprentissage des données d'entraînement. Cela entraîne une plus grande erreur de généralisation. Pour aider à réduire le surapprentissage, nous pouvons introduire une régularisation dans notre entraînement, décourageant certaines solutions afin de diminuer la mesure dans laquelle nos modèles s'adaptent au bruit.
0:01:41 – Surapprentissage et régularisation
0:18:11 – Régularisation des modèles (L2, L1, dropout, normalisation par lot et augmentation des données)
0:49:30 – Visualisation de la régularisation et du surapprentissage, Réseaux de neurones bayésiens