Deutsch
Menü

Was ist Transfer Learning (Transferlernen)?

Ein Verfahren, das das Wissen (etwa die Art, Merkmale zu extrahieren), das ein Modell bei einer Aufgabe erworben hat, für eine andere Aufgabe nutzt. Ausgehend von den Gewichten eines mit großen Datenmengen vortrainierten Modells wird die Ausgabeschicht ersetzt, oder ein Teil des Modells oder das ganze Modell wird mit Daten der neuen Aufgabe nachtrainiert (Fine-Tuning). So lässt sich mit weniger Daten und Rechenaufwand als beim Training von Grund auf leicht eine hohe Leistung erreichen; das Verfahren wird in der Bilderkennung und bei Sprachmodellen weithin eingesetzt.

Japanische Bezeichnung: 転移学習

„Transfer Learning (Transferlernen)“ kommt in 1 Übungsfragen aus 1 Themen vor, z. B. Grundlagen des maschinellen Lernens.

Fachgebiet: Grundlagen des maschinellen Lernens

Jetzt üben: Fragen zu Transfer Learning (Transferlernen)

Welche Beschreibung trifft auf Transfer Learning zu, bei dem ein mit großen Datenmengen trainiertes Modell für eine andere Aufgabe mit wenigen Daten genutzt wird?

  1. AAusgehend von den Gewichten des trainierten Modells wird die Ausgabeschicht für die neue Aufgabe ersetzt, oder ein Teil des Modells oder das ganze Modell wird mit den neuen Daten nachtrainiert (Fine-Tuning)
  2. BDas trainierte Modell wird nicht genutzt; alle Schichten werden nur mit den wenigen Daten der neuen Aufgabe von zufällig initialisierten Gewichten aus neu trainiert
  3. CEin kleines Modell wird darauf trainiert, die Ausgaben eines großen Modells nachzuahmen, damit dieselbe Aufgabe mit weniger Rechenaufwand und Speicher gelöst werden kann
Antwort und Erläuterung anzeigen

Antwort: A. Ausgehend von den Gewichten des trainierten Modells wird die Ausgabeschicht für die neue Aufgabe ersetzt, oder ein Teil des Modells oder das ganze Modell wird mit den neuen Daten nachtrainiert (Fine-Tuning)

Transfer Learning nutzt die Merkmale, die ein Modell bei einer Aufgabe gelernt hat, für eine andere Aufgabe. Die eingangsnahen Schichten eines mit sehr vielen Bildern trainierten CNN können zum Beispiel allgemeine Merkmale wie Kanten und Texturen extrahieren; daher wird nur die Ausgabeschicht ersetzt und für die neue Aufgabe trainiert, oder das ganze Netz wird mit kleiner Lernrate nachtrainiert (Fine-Tuning). So lässt sich mit weniger Daten und Rechenaufwand als beim Training von Grund auf leicht eine hohe Leistung erreichen; das Verfahren wird auch eingesetzt, um Sprachmodelle an bestimmte Anwendungen anzupassen.

„Transfer Learning (Transferlernen)“ in den Erläuterungen

Fragen mit „Transfer Learning (Transferlernen)“ (1)

  1. Welche Beschreibung trifft auf Transfer Learning zu, bei dem ein mit großen Datenmengen trainiertes Modell für eine andere Aufgabe mit wenigen Daten genutzt wird?

Verwandte Begriffe

Convolutional Neural Network (CNN) Aktivierungsfunktion Bestärkendes Lernen (Reinforcement Learning) Gradientenabstieg (Gradient Descent) Hauptkomponentenanalyse (PCA) k-Means-Algorithmus Konfusionsmatrix (Wahrheitsmatrix) Kreuzvalidierung Precision und Recall Regularisierung

Zur Glossarübersicht