せいそくか
損失関数に重みの大きさに応じた罰則の項を加えて、重みが大きくなりすぎるのを防ぎ、過学習を抑える方法。重みの絶対値の和を加えるL1正則化は一部の重みをちょうど0にしやすく、重みの2乗の和を加えるL2正則化(重み減衰)は重みを全体に小さくする。罰則の強さはハイパーパラメータとして交差検証などで決める。広い意味では、ドロップアウトや早期終了など、汎化性能を高めるための工夫をまとめて正則化と呼ぶこともある。
「正則化」は、1分野の2問の練習問題に出てきます(機械学習の基礎など)。
この用語の分野: 機械学習の基礎
正解：A. L1正則化は重みの絶対値の和を損失に加えるもので、一部の重みがちょうど0になりやすい
正則化は、損失関数に重みの大きさに応じた罰則を加えて、重みが大きくなりすぎるのを防ぎ、モデルを単純に保つ方法です。L1正則化は重みの絶対値の和を加え、一部の重みがちょうど0になりやすいので、使う特徴量を絞り込む働きがあります(Lasso回帰)。L2正則化は重みの2乗の和を加え、重みを全体的に小さくしますが、ちょうど0にはなりにくい性質があります(リッジ回帰、重み減衰)。ドロップアウトは、学習のときだけランダムにニューロンを無効にして特定のニューロンに頼りすぎないようにする方法で、推論のときはすべてのニューロンを使います。
正則化は、損失関数に重みの大きさに応じた罰則を加えて、重みが大きくなりすぎるのを防ぎ、モデルを単純に保つ方法です。
過学習を抑える正則化などの手法の説明として、適切なものはどれか。対策には、データを増やす、モデルを単純にする、正則化やドロップアウト、検証用データでの誤差が上がり始めたところで学習を止める早期終了などがあります。
過学習(過剰適合)が起きているときに見られる様子として、適切なものはどれか。Amazonの検索結果へのリンクです。Amazonのアソシエイトとして、半導体教室は適格販売により収入を得ています。