Basis van machine learning
Een knoop van een beslisboom bevat 6 gegevenspunten van klasse A en 4 van klasse B. Wat is de Gini-onzuiverheid van deze knoop?
- A0,24
- B0,40
- C0,48
Antwoord en toelichting tonen
Antwoord: C. 0,48
De Gini-onzuiverheid wordt berekend als 1 − Σp², waarbij p het aandeel van elke klasse is. Klasse A heeft een aandeel van 0,6 en klasse B van 0,4, dus de onzuiverheid is 1 − (0,36 + 0,16) = 0,48. Een knoop met maar één klasse heeft een onzuiverheid van 0, en bij twee klassen treedt het maximum van 0,5 op als ze elk de helft uitmaken. Een beslisboom splitst de gegevens door het kenmerk en de drempel te kiezen waarbij het gewogen gemiddelde van de onzuiverheid (Gini-onzuiverheid of entropie) van de kindknopen na de splitsing het kleinst is.