機器學習基礎
將以大量資料訓練好的模型，用少量資料運用到其他任務的遷移學習，下列敘述何者適當？
- A以訓練好之模型的權重為起點，配合新任務更換輸出層，或以新資料重新訓練部分或全部的模型（微調，fine-tuning）
- B不使用訓練好的模型，只用新任務的少量資料，從隨機初始值的權重開始重新訓練所有的層
- C訓練小模型模仿大模型的輸出，使同一任務能以更少的計算量與記憶體解決
查看答案與解析
正確答案：A. 以訓練好之模型的權重為起點，配合新任務更換輸出層，或以新資料重新訓練部分或全部的模型（微調，fine-tuning）
遷移學習是將模型在某個任務中學到的特徵應用到其他任務的方法。例如，以大量影像訓練的CNN中靠近輸入的層能取出輪廓、紋理等一般特徵，因此可以只更換輸出層並針對新任務訓練，或以小的學習率重新訓練整個網路（微調）。比從頭訓練更容易以較少的資料與計算量得到高性能，也用於讓語言模型適應特定用途。
- A. 正確。以訓練好的權重為起點，配合新任務重新訓練。
- B. 這是從頭訓練的方法，沒有運用訓練好之模型學到的特徵。
- C. 這是知識蒸餾的說明，是用來縮小同一任務之模型的方法。