機械学習の基礎
説明可能なAI(XAI)の説明として、適切なものはどれか。
- Aモデルのパラメータの数や層の数を公開して、モデルの大きさや構造を利用者に知らせること
- B学習用データを増やしたりモデルを大きくしたりして、予測の正解率をできるだけ高めること
- Cモデルがある予測をした理由や、どの特徴量が予測に効いたかを、人が理解できる形で示す技術や考え方
答えと解説を見る
正解：C. モデルがある予測をした理由や、どの特徴量が予測に効いたかを、人が理解できる形で示す技術や考え方
深層学習などの複雑なモデルは、性能が高くても、なぜその予測になったのかが分かりにくいブラックボックスになりがちです。XAIは、予測に対する各特徴量の寄与を求める方法(SHAPやLIMEなど)や、画像のどの部分が判断に効いたかを示すヒートマップなどで、予測の理由を人が確かめられるようにする技術や考え方です。医療や融資のように判断の説明が求められる分野での利用や、モデルの誤りや偏りを見つけるのに役立ちます。
- A. パラメータの数や構造はモデルの大きさを表すだけで、個々の予測の理由は説明しません。
- B. 性能を高めることと、予測の理由を説明できることは別の問題です。
- C. 正しい。予測の理由を、人が理解できる形で示します。