什麼是交叉驗證(Cross-validation)
將資料分成k組,以其中1組作為評估用、其餘作為訓練用來進行訓練與評估,並輪流更換評估用的組別重複k次,以k次評估的平均來估計模型性能的方法(k折交叉驗證)。所有資料都恰好被用來評估一次,因此能有效利用有限的資料,並減少因資料分法不同而造成的評估變異。用於調整超參數與選擇模型,計算量約為k倍。
日文名稱: 交差検証
「交叉驗證(Cross-validation)」出現在1領域的2道練習題中(機器學習基礎等)。
這個名詞所屬的領域: 機器學習基礎
將資料分成k組,以其中1組作為評估用、其餘作為訓練用來進行訓練與評估,並輪流更換評估用的組別重複k次,以k次評估的平均來估計模型性能的方法(k折交叉驗證)。所有資料都恰好被用來評估一次,因此能有效利用有限的資料,並減少因資料分法不同而造成的評估變異。用於調整超參數與選擇模型,計算量約為k倍。
日文名稱: 交差検証
「交叉驗證(Cross-validation)」出現在1領域的2道練習題中(機器學習基礎等)。
這個名詞所屬的領域: 機器學習基礎
正確答案:B. 800筆
k折交叉驗證將資料分成k組,以其中1組作為評估用、其餘k − 1組作為訓練用來進行訓練與評估。輪流更換評估用的組別重複k次,並以k次評估的平均作為模型的性能。5折時每組為1000 ÷ 5 = 200筆,因此每回訓練使用200 × 4 = 800筆,共訓練5次。所有資料都恰好被用於評估一次,因此即使資料少也能穩定地估計性能。
k折交叉驗證將資料分成k組,以其中1組作為評估用、其餘k − 1組作為訓練用來進行訓練與評估。
以1000筆資料進行5折交叉驗證(k = 5 的k折交叉驗證)時,每一回訓練使用的資料筆數為何者?一般而言,模型越複雜偏差越小、變異越大,因此要以驗證資料或交叉驗證,選擇兩者取得平衡的複雜度。
將模型的誤差分成偏差(bias)與變異(variance)來思考時,下列何者適當?期望值 過擬合(Overfitting) 主成分分析(PCA) 正規化(Regularization) 卷積神經網路(CNN) 非監督式學習(Unsupervised learning) 強化學習(Reinforcement learning) 啟動函數(Activation function) 梯度下降法(Gradient descent) 混淆矩陣(Confusion matrix)