機器學習基礎
決策樹的某個節點中,有類別A的資料6筆、類別B的資料4筆。此節點的吉尼不純度為何者?
- A0.24
- B0.40
- C0.48
查看答案與解析
正確答案:C. 0.48
吉尼不純度以各類別的比例p,由 1 − Σp² 求得。類別A的比例為0.6,類別B為0.4,因此為 1 − (0.36 + 0.16) = 0.48。只有一個類別的節點為0,兩個類別各占一半時為最大值0.5。決策樹會選擇使分割後子節點不純度(吉尼不純度或熵)的加權平均最小的特徵與閾值,逐步分割資料。
- A. 這是 0.6 × 0.4 = 0.24,漏乘了二元時吉尼不純度 2 × 0.6 × 0.4 中的2。
- B. 這是少數類別的比例,也就是以多數決分類時的錯誤率。
- C. 正確。1 − (0.6² + 0.4²) = 0.48。