Wat is Kruisvalidatie (cross-validation)?

Een methode die de gegevens in k groepen verdeelt, op alle groepen op één na traint en op de overgebleven groep evalueert, dit k keer herhaalt met telkens een andere evaluatiegroep, en de prestatie van het model schat als het gemiddelde van de k evaluaties (k-voudige kruisvalidatie). Elk gegevenspunt wordt precies één keer voor de evaluatie gebruikt, zodat beperkte gegevens efficiënt worden benut en de spreiding van de schatting door de toevallige verdeling van de gegevens kleiner wordt. Ze wordt gebruikt om hyperparameters af te stemmen en modellen te kiezen, tegen ongeveer k keer zoveel rekenwerk.

Japanse benaming: 交差検証

“Kruisvalidatie (cross-validation)” komt voor in 2 oefenvragen uit 1 onderwerpen, bijv. Basis van machine learning.

Vakgebied: Basis van machine learning

Nu oefenen: vragen over Kruisvalidatie (cross-validation)

Bij 5-voudige kruisvalidatie (k-voudige kruisvalidatie met k = 5) op 1000 gegevenspunten: hoeveel gegevenspunten worden er bij elke trainingsronde gebruikt?

  1. A200
  2. B800
  3. C1000
Antwoord en toelichting tonen

Antwoord: B. 800

Bij k-voudige kruisvalidatie worden de gegevens in k groepen verdeeld; één groep dient voor de evaluatie en de overige k − 1 voor het trainen. Dit wordt k keer herhaald met telkens een andere evaluatiegroep, en het gemiddelde van de k evaluaties geldt als de prestatie van het model. Bij 5 groepen bevat elke groep 1000 ÷ 5 = 200 punten, dus elke ronde traint met 200 × 4 = 800 punten, en er wordt 5 keer getraind. Elk gegevenspunt wordt precies één keer voor de evaluatie gebruikt, zodat de prestaties ook met weinig gegevens stabiel kunnen worden geschat.

“Kruisvalidatie (cross-validation)” in de toelichting

Vragen met “Kruisvalidatie (cross-validation)” (2)

  1. Bij 5-voudige kruisvalidatie (k-voudige kruisvalidatie met k = 5) op 1000 gegevenspunten: hoeveel gegevenspunten worden er bij elke trainingsronde gebruikt?
  2. Welke uitspraak is juist als de fout van een model wordt opgesplitst in bias en variantie?

Verwante termen

Verwachtingswaarde Overfitting (overaanpassing) Activatiefunctie Convolutioneel neuraal netwerk (CNN) Gesuperviseerd leren (supervised learning) Gradiëntafdaling (gradient descent) Hoofdcomponentenanalyse (PCA) k-means-clustering Ongesuperviseerd leren (unsupervised learning) Precisie en recall (precision and recall)

Naar de woordenlijst