Basis van machine learning

Welke beschrijving van regularisatie en verwante methoden om overfitting te beperken is juist?

  1. AL1-regularisatie telt de som van de absolute waarden van de gewichten bij het verlies op en maakt daardoor gemakkelijk sommige gewichten precies nul
  2. BL2-regularisatie telt de som van de absolute waarden van de gewichten bij het verlies op en selecteert sterk kenmerken door onnodige gewichten op nul te zetten
  3. CDropout schakelt zowel bij het trainen als bij de inferentie telkens willekeurig neuronen uit, zodat de uitvoer enige spreiding krijgt
Antwoord en toelichting tonen

Antwoord: A. L1-regularisatie telt de som van de absolute waarden van de gewichten bij het verlies op en maakt daardoor gemakkelijk sommige gewichten precies nul

Regularisatie telt bij de verliesfunctie een strafterm op die afhangt van de grootte van de gewichten; zo worden te grote gewichten voorkomen en blijft het model eenvoudig. L1-regularisatie telt de som van de absolute waarden van de gewichten op en maakt gemakkelijk sommige gewichten precies nul, zodat ze de gebruikte kenmerken selecteert (lassoregressie). L2-regularisatie telt de som van de kwadraten van de gewichten op en maakt de gewichten over het geheel kleiner, maar die worden zelden precies nul (ridgeregressie, weight decay). Dropout schakelt alleen tijdens het trainen willekeurig neuronen uit, zodat het netwerk niet te sterk op bepaalde neuronen leunt; bij de inferentie worden alle neuronen gebruikt.

Dit onderwerp oefenen Naar de onderwerppagina

Meer vragen over Basis van machine learning

  1. Welke van de volgende stappen bij het bouwen van een machinelearningmodel veroorzaakt data leakage (informatie uit de evaluatiedata die in de training terechtkomt)?
  2. Een model voor classificatie met twee klassen is geëvalueerd op 200 testgegevens. De verwarringsmatrix toont 45 terecht-positieven (TP), 5 fout-positieven (FP), 45 fout-negatieven (FN) en 105 terecht-negatieven (TN). Welke combinatie van precisie en recall is juist?
  3. Een model voor classificatie met twee klassen is geëvalueerd op 200 testgegevens, met TP = 20, FP = 5, FN = 30 en TN = 145. Welke waarde ligt het dichtst bij de F1-score?
  4. Welke beschrijving van de ROC-curve en de AUC, die worden gebruikt om modellen voor classificatie met twee klassen te evalueren, is juist?
  5. Bij gegevens van 1000 items, waarvan er maar 10 positief zijn: wat is de accuracy van een model dat elk item als negatief voorspelt?