Basis van machine learning
De klasse van het tweedimensionale punt (0, 0) wordt met k-nearest neighbors voorspeld. De trainingsdata bestaan uit de rode punten (1, 0), (3, 0) en (0, −3) en de blauwe punten (0, 2) en (−2, 1). Welke combinatie van voorspellingen voor k = 3 en k = 5 is juist bij gebruik van de euclidische afstand?
- Ak = 3: rood, k = 5: rood
- Bk = 3: rood, k = 5: blauw
- Ck = 3: blauw, k = 5: rood
Antwoord en toelichting tonen
Antwoord: C. k = 3: blauw, k = 5: rood
De afstanden tot (0, 0) zijn 1 voor het rode punt (1, 0), 2 voor het blauwe punt (0, 2), √5 ≈ 2,24 voor het blauwe punt (−2, 1) en 3 voor de rode punten (3, 0) en (0, −3). Bij k = 3 zijn de drie dichtstbijzijnde punten 1 rood en 2 blauw, dus de meerderheidsstemming geeft blauw; bij k = 5 worden alle punten gebruikt, 3 rood en 2 blauw, wat rood geeft. k-nearest neighbors rekent niets bij het trainen en zoekt pas bij het voorspellen naar nabije punten, en zoals hier te zien is, hangt het resultaat af van k. Omdat afstanden worden vergeleken, is standaardisatie belangrijk om de eenheden en ordes van grootte van de kenmerken gelijk te trekken.