在損失函數中加入與權重大小相應的懲罰項，防止權重變得過大，以抑制過擬合的方法。加入權重絕對值總和的L1正規化容易使部分權重恰好變為0，加入權重平方和的L2正規化（權重衰減）則使權重整體變小。懲罰的強度是超參數，以交叉驗證等方式決定。廣義上，也會把丟棄法、提前停止等提高泛化性能的手法統稱為正規化。注意資料庫的「正規化」（normalization）是不同的概念。
日文名稱: 正則化
「正規化（Regularization）」出現在1領域的2道練習題中（機器學習基礎等）。
這個名詞所屬的領域: 機器學習基礎
正確答案：A. 訓練資料上的誤差很小，但驗證資料上的誤差很大
過擬合是模型連訓練資料中的細微特徵與雜訊都記住，使對新資料的性能（泛化性能）下降的狀態。訓練資料上的誤差很小、驗證資料上的誤差卻很大，是判斷的依據。連訓練資料上的誤差都很大的狀態，則是模型過於簡單等原因而無法掌握趨勢的欠擬合（學習不足）。對策有增加資料、簡化模型、正規化（regularization）、丟棄法（dropout），以及在驗證資料的誤差開始上升時停止訓練的提前停止等。
正確答案：A. L1正規化是在損失中加入權重絕對值的總和，容易使部分權重恰好變為0
正規化（regularization）是在損失函數中加入與權重大小相應的懲罰，防止權重變得過大，使模型保持簡單的方法。L1正規化加入權重絕對值的總和，容易使部分權重恰好變為0，因此具有篩選所用特徵的作用（Lasso迴歸）。L2正規化加入權重的平方和，使權重整體變小，但不易恰好變為0（脊迴歸、權重衰減）。丟棄法只在訓練時隨機停用神經元，避免過度依賴特定的神經元，推論時則使用所有神經元。
對策有增加資料、簡化模型、正規化（regularization）、丟棄法（dropout），以及在驗證資料的誤差開始上升時停止訓練的提前停止等。
下列何者是發生過擬合（過度擬合）時會看到的情形？正規化（regularization）是在損失函數中加入與權重大小相應的懲罰，防止權重變得過大，使模型保持簡單的方法。
下列關於抑制過擬合的正規化等方法的敘述，何者適當？過擬合（Overfitting） 主成分分析（PCA） 交叉驗證（Cross-validation） 卷積神經網路（CNN） 非監督式學習（Unsupervised learning） 強化學習（Reinforcement learning） 啟動函數（Activation function） 梯度下降法（Gradient descent） 混淆矩陣（Confusion matrix） 監督式學習（Supervised learning）