Basis van machine learning
Welke beschrijving van regularisatie en verwante methoden om overfitting te beperken is juist?
- AL1-regularisatie telt de som van de absolute waarden van de gewichten bij het verlies op en maakt daardoor gemakkelijk sommige gewichten precies nul
- BL2-regularisatie telt de som van de absolute waarden van de gewichten bij het verlies op en selecteert sterk kenmerken door onnodige gewichten op nul te zetten
- CDropout schakelt zowel bij het trainen als bij de inferentie telkens willekeurig neuronen uit, zodat de uitvoer enige spreiding krijgt
Antwoord en toelichting tonen
Antwoord: A. L1-regularisatie telt de som van de absolute waarden van de gewichten bij het verlies op en maakt daardoor gemakkelijk sommige gewichten precies nul
Regularisatie telt bij de verliesfunctie een strafterm op die afhangt van de grootte van de gewichten; zo worden te grote gewichten voorkomen en blijft het model eenvoudig. L1-regularisatie telt de som van de absolute waarden van de gewichten op en maakt gemakkelijk sommige gewichten precies nul, zodat ze de gebruikte kenmerken selecteert (lassoregressie). L2-regularisatie telt de som van de kwadraten van de gewichten op en maakt de gewichten over het geheel kleiner, maar die worden zelden precies nul (ridgeregressie, weight decay). Dropout schakelt alleen tijdens het trainen willekeurig neuronen uit, zodat het netwerk niet te sterk op bepaalde neuronen leunt; bij de inferentie worden alle neuronen gebruikt.