機器學習基礎
下列何者是發生過擬合（過度擬合）時會看到的情形？
- A訓練資料上的誤差很小，但驗證資料上的誤差很大
- B在訓練資料與驗證資料上，誤差都一直很大、降不下來
- C隨著訓練進行，訓練資料與驗證資料上的誤差都以同樣的方式持續下降
查看答案與解析
正確答案：A. 訓練資料上的誤差很小，但驗證資料上的誤差很大
過擬合是模型連訓練資料中的細微特徵與雜訊都記住，使對新資料的性能（泛化性能）下降的狀態。訓練資料上的誤差很小、驗證資料上的誤差卻很大，是判斷的依據。連訓練資料上的誤差都很大的狀態，則是模型過於簡單等原因而無法掌握趨勢的欠擬合（學習不足）。對策有增加資料、簡化模型、正規化（regularization）、丟棄法（dropout），以及在驗證資料的誤差開始上升時停止訓練的提前停止等。
- A. 正確。過度遷就訓練資料，使新資料上的誤差變大。
- B. 這是欠擬合（學習不足）的情形。
- C. 這是訓練順利進行的情形。過擬合時，驗證資料的誤差會從途中開始上升。