Welche Aussage ist zutreffend, wenn man den Fehler eines Modells in Bias (Verzerrung) und Varianz (Streuung) zerlegt?

Antwort: C. Ein komplexeres Modell verringert tendenziell den Bias, erhöht aber tendenziell die Varianz; daher wählt man eine Komplexität, die beide ausbalanciert

Für den quadratischen Fehler lässt sich der Erwartungswert des Fehlers bei neuen Daten in die Summe dreier Terme zerlegen: das Quadrat des Bias, die Varianz und das Rauschen in den Daten selbst. Der Bias ist der Fehler, der entsteht, weil das Modell zu einfach ist, um den wahren Zusammenhang zu erfassen; ein großer Bias führt zu Unteranpassung. Die Varianz ist der Fehler, der entsteht, weil die Vorhersagen je nach Auswahl der Trainingsdaten schwanken; eine große Varianz führt zu Überanpassung. Allgemein senkt ein komplexeres Modell den Bias und erhöht die Varianz; eine Komplexität, die beide ausbalanciert, wird daher mit Validierungsdaten oder Kreuzvalidierung gewählt.