機械学習の基礎
過学習(過剰適合)が起きているときに見られる様子として、適切なものはどれか。
- A学習用データでの誤差は小さいが、検証用データでの誤差が大きい
- B学習用データでも検証用データでも、誤差が大きいまま下がらない
- C学習を進めるほど、学習用データでの誤差も検証用データでの誤差も同じように下がり続ける
答えと解説を見る
正解：A. 学習用データでの誤差は小さいが、検証用データでの誤差が大きい
過学習は、モデルが学習用データの細かな特徴や雑音まで覚え込んでしまい、新しいデータに対する性能(汎化性能)が落ちる状態です。学習用データでの誤差は小さいのに、検証用データでの誤差が大きいことが目安になります。学習用データでも誤差が大きい状態は、モデルが単純すぎるなどで傾向をとらえきれていない未学習(学習不足)です。対策には、データを増やす、モデルを単純にする、正則化やドロップアウト、検証用データでの誤差が上がり始めたところで学習を止める早期終了などがあります。
- A. 正しい。学習用データに合わせすぎて、新しいデータでの誤差が大きくなっています。
- B. 未学習(学習不足)の様子です。
- C. 学習が順調に進んでいる様子です。過学習では、検証用データでの誤差が途中から上がり始めます。