機器學習基礎
下列關於集成學習中裝袋法（Bagging，例如隨機森林）與提升法（Boosting）之差異的敘述，何者適當？
- A裝袋法以抽出後放回的方式建立多份訓練資料，分別獨立訓練模型，再以平均或多數決整合結果；提升法則依序加入模型，使每個模型彌補前面模型的錯誤
- B裝袋法一邊重視前一個模型判錯的資料，一邊逐一依序加入模型；提升法則以抽出後放回的資料，平行訓練彼此獨立的模型並取多數決
- C裝袋法與提升法都是先建立一棵大型決策樹，再剪除不需要的分枝以防止過擬合的方法
查看答案與解析
正確答案：A. 裝袋法以抽出後放回的方式建立多份訓練資料，分別獨立訓練模型，再以平均或多數決整合結果；提升法則依序加入模型，使每個模型彌補前面模型的錯誤
裝袋法以允許重複的方式從原始資料中隨機抽取（自助抽樣，bootstrap），建立彼此略有不同的訓練資料，並以平均或多數決整合以各份資料訓練出之許多模型的預測。模型彼此獨立，可以平行訓練，主要效果是降低變異。隨機森林是連分割所用的特徵也隨機選擇、以提高決策樹多樣性的裝袋法。提升法則依序加入弱模型，使其彌補到目前為止之模型的錯誤，主要用來降低偏差。
- A. 正確。裝袋法是對獨立模型取平均或多數決，提升法是依序加入彌補錯誤的模型。
- B. 裝袋法與提升法的說明顛倒了。
- C. 這是決策樹剪枝的說明，不是組合多個模型的集成學習。