Deutsch
Menü

Grundlagen des maschinellen Lernens

Welche Beschreibung der Regularisierung und verwandter Verfahren gegen Überanpassung trifft zu?

  1. ADie L1-Regularisierung addiert die Summe der Beträge der Gewichte zum Verlust und führt leicht dazu, dass einige Gewichte genau 0 werden
  2. BDie L2-Regularisierung addiert die Summe der Beträge der Gewichte zum Verlust und bewirkt eine starke Merkmalsauswahl, indem sie nicht benötigte Gewichte auf 0 setzt
  3. CDropout deaktiviert sowohl beim Training als auch bei der Inferenz jedes Mal zufällig Neuronen, um die Ausgabe streuen zu lassen
Antwort und Erläuterung anzeigen

Antwort: A. Die L1-Regularisierung addiert die Summe der Beträge der Gewichte zum Verlust und führt leicht dazu, dass einige Gewichte genau 0 werden

Regularisierung addiert zur Verlustfunktion einen Strafterm, der von der Größe der Gewichte abhängt; so werden zu große Gewichte verhindert und das Modell einfach gehalten. Die L1-Regularisierung addiert die Summe der Beträge der Gewichte und führt leicht dazu, dass einige Gewichte genau 0 werden; sie wählt also die verwendeten Merkmale aus (Lasso-Regression). Die L2-Regularisierung addiert die Summe der Quadrate der Gewichte und verkleinert die Gewichte insgesamt, doch diese werden selten genau 0 (Ridge-Regression, Weight Decay). Dropout deaktiviert nur beim Training zufällig Neuronen, damit sich das Netz nicht zu sehr auf bestimmte Neuronen verlässt; bei der Inferenz werden alle Neuronen verwendet.

Dieses Thema üben Zur Themenseite

Weitere Fragen zu Grundlagen des maschinellen Lernens

  1. Welcher der folgenden Schritte beim Erstellen eines Machine-Learning-Modells verursacht Data Leakage (Informationen aus den Bewertungsdaten gelangen ins Training)?
  2. Ein Modell für die Klassifikation mit zwei Klassen wurde mit 200 Testdaten bewertet. Die Konfusionsmatrix zeigt 45 richtig positive (TP), 5 falsch positive (FP), 45 falsch negative (FN) und 105 richtig negative (TN). Welches Paar aus Precision und Recall ist richtig?
  3. Ein Modell für die Klassifikation mit zwei Klassen wurde mit 200 Testdaten bewertet: TP = 20, FP = 5, FN = 30 und TN = 145. Welcher Wert liegt dem F1-Score am nächsten?
  4. Welche Beschreibung der ROC-Kurve und der AUC, mit denen Modelle für die Klassifikation mit zwei Klassen bewertet werden, trifft zu?
  5. Wie hoch ist bei Daten aus 1000 Fällen, von denen nur 10 positiv sind, die Accuracy (der Anteil richtiger Vorhersagen) eines Modells, das jeden Fall als negativ vorhersagt?