Basis van machine learning
Wat is er te zien als er overfitting optreedt?
- ADe fout op de trainingsdata is klein, maar de fout op de validatiedata is groot
- BDe fout blijft zowel op de trainingsdata als op de validatiedata groot en daalt niet
- CNaarmate het trainen vordert, blijven de fouten op de trainingsdata en op de validatiedata op dezelfde manier dalen
Antwoord en toelichting tonen
Antwoord: A. De fout op de trainingsdata is klein, maar de fout op de validatiedata is groot
Bij overfitting heeft het model fijne details en zelfs de ruis van de trainingsdata uit het hoofd geleerd, zodat de prestaties op nieuwe gegevens (het generalisatievermogen) dalen. Het kenmerkende teken is een kleine fout op de trainingsdata samen met een grote fout op de validatiedata. Is de fout al op de trainingsdata groot, dan is er sprake van underfitting: het model vangt de trend niet, bijvoorbeeld omdat het te eenvoudig is. Tegenmaatregelen zijn meer gegevens, een eenvoudiger model, regularisatie, dropout en early stopping, dat het trainen beëindigt zodra de validatiefout begint te stijgen.