繁體中文
選單

什麼是遷移學習（Transfer learning）

將模型在某個任務中學到的知識（例如取出特徵的方式），應用到其他任務的方法。以在大量資料上預訓練之模型的權重為起點，更換輸出層，或以新任務的資料重新訓練部分或全部的模型（微調，fine-tuning）。比從頭訓練更容易以較少的資料與計算量得到高性能，廣泛用於影像辨識與語言模型。

日文名稱: 転移学習

「遷移學習（Transfer learning）」出現在1領域的1道練習題中（機器學習基礎等）。

這個名詞所屬的領域: 機器學習基礎

練習遷移學習（Transfer learning）的題目

將以大量資料訓練好的模型，用少量資料運用到其他任務的遷移學習，下列敘述何者適當？

  1. A以訓練好之模型的權重為起點，配合新任務更換輸出層，或以新資料重新訓練部分或全部的模型（微調，fine-tuning）
  2. B不使用訓練好的模型，只用新任務的少量資料，從隨機初始值的權重開始重新訓練所有的層
  3. C訓練小模型模仿大模型的輸出，使同一任務能以更少的計算量與記憶體解決
查看答案與解析

正確答案：A. 以訓練好之模型的權重為起點，配合新任務更換輸出層，或以新資料重新訓練部分或全部的模型（微調，fine-tuning）

遷移學習是將模型在某個任務中學到的特徵應用到其他任務的方法。例如，以大量影像訓練的CNN中靠近輸入的層能取出輪廓、紋理等一般特徵，因此可以只更換輸出層並針對新任務訓練，或以小的學習率重新訓練整個網路（微調）。比從頭訓練更容易以較少的資料與計算量得到高性能，也用於讓語言模型適應特定用途。

解析中的「遷移學習（Transfer learning）」

出現「遷移學習（Transfer learning）」的題目（1題）

  1. 將以大量資料訓練好的模型，用少量資料運用到其他任務的遷移學習，下列敘述何者適當？

相關名詞

卷積神經網路（CNN） 主成分分析（PCA） 正規化（Regularization） 交叉驗證（Cross-validation） 非監督式學習（Unsupervised learning） 強化學習（Reinforcement learning） 啟動函數（Activation function） 梯度下降法（Gradient descent） 混淆矩陣（Confusion matrix） 過擬合（Overfitting）

前往名詞解釋列表