機械学習の基礎
過去の採用の結果を正解として、応募書類から採用の可否を予測するモデルを作るときに注意すべき点として、適切なものはどれか。
- A過去の判断に性別などによる偏りがあると、モデルがその偏りを学習して、そのまま再現したり強めたりするおそれがある
- Bデータの件数が十分に多ければ、元のデータに偏りがあっても打ち消し合うので、モデルの予測は自然に公平になる
- C性別の列を入力から削除しておけば、ほかの特徴量を通じて偏りがモデルに入り込むことはない
答えと解説を見る
正解：A. 過去の判断に性別などによる偏りがあると、モデルがその偏りを学習して、そのまま再現したり強めたりするおそれがある
機械学習のモデルは学習用データにある傾向をそのまま学ぶので、過去の判断に含まれる差別や、特定の集団のデータが少ないといったデータの偏り(バイアス)も学習してしまいます。偏ったデータを増やしても偏りそのものは消えず、性別の列を消しても、経歴や趣味などそれと関係の強い特徴量を通じて偏りが残ることがあります。データの集め方を見直し、集団ごとの誤りの率などを確かめて、公平性を評価することが大切です。
- A. 正しい。データの偏りをモデルが学習し、そのまま再現するおそれがあります。
- B. 偏ったデータをいくら増やしても、偏りは消えません。
- C. 性別と関係の強いほかの特徴量(代理変数)を通じて、偏りが残ることがあります。