機械学習の基礎
決定木のあるノードに、クラスAのデータが6件、クラスBのデータが4件ある。このノードのジニ不純度はどれか。
- A0.24
- B0.40
- C0.48
答えと解説を見る
正解：C. 0.48
ジニ不純度は、各クラスの割合をpとして 1 − Σp² で求めます。クラスAの割合は0.6、クラスBの割合は0.4なので、1 − (0.36 + 0.16) = 0.48です。1つのクラスだけのノードでは0になり、2クラスが半分ずつのときに最大の0.5になります。決定木は、分けたあとの子ノードの不純度(ジニ不純度やエントロピー)の加重平均が最も小さくなるように、特徴量としきい値を選んでデータを分けていきます。
- A. 0.6 × 0.4 = 0.24で、2クラスのときのジニ不純度 2 × 0.6 × 0.4 の2を掛け忘れた値です。
- B. 少ない方のクラスの割合で、多数決で分類したときの誤りの率です。
- C. 正しい。1 − (0.6² + 0.4²) = 0.48です。