Welche Beschreibung des Unterschieds zwischen Bagging (Random Forest u. Ä.) und Boosting beim Ensemble-Lernen trifft zu?

Antwort: A. Bagging trainiert Modelle unabhängig voneinander auf mehreren durch Ziehen mit Zurücklegen erzeugten Trainingsdatensätzen und fasst ihre Ergebnisse per Mittelwert oder Mehrheitsentscheid zusammen; Boosting fügt nacheinander Modelle hinzu, die jeweils die Fehler der vorherigen ausgleichen

Bagging erzeugt leicht unterschiedliche Trainingsdatensätze, indem es zufällig mit erlaubten Wiederholungen aus den Originaldaten zieht (Bootstrapping), und fasst die Vorhersagen der vielen darauf trainierten Modelle per Mittelwert oder Mehrheitsentscheid zusammen. Die Modelle sind voneinander unabhängig und lassen sich parallel trainieren; die Hauptwirkung ist eine geringere Varianz. Ein Random Forest ist ein Bagging-Verfahren, das zusätzlich die für die Teilung verwendeten Merkmale zufällig wählt und so die Vielfalt der Entscheidungsbäume erhöht. Boosting fügt nacheinander schwache Modelle hinzu, die jeweils die Fehler der bisherigen Modelle ausgleichen, und senkt hauptsächlich den Bias.