Grundlagen des maschinellen Lernens

Ein Knoten eines Entscheidungsbaums enthält 6 Datenpunkte der Klasse A und 4 der Klasse B. Wie groß ist die Gini-Unreinheit dieses Knotens?

  1. A0,24
  2. B0,40
  3. C0,48
Antwort und Erläuterung anzeigen

Antwort: C. 0,48

Die Gini-Unreinheit wird als 1 − Σp² berechnet, wobei p der Anteil jeder Klasse ist. Klasse A hat einen Anteil von 0,6 und Klasse B von 0,4, die Unreinheit beträgt also 1 − (0,36 + 0,16) = 0,48. Ein Knoten mit nur einer Klasse hat die Unreinheit 0; bei zwei Klassen tritt das Maximum von 0,5 auf, wenn beide je zur Hälfte vertreten sind. Ein Entscheidungsbaum teilt die Daten, indem er Merkmal und Schwellenwert so wählt, dass der gewichtete Mittelwert der Unreinheit (Gini-Unreinheit oder Entropie) der Kindknoten nach der Teilung am kleinsten wird.

Dieses Thema üben Zur Themenseite

Weitere Fragen zu Grundlagen des maschinellen Lernens

  1. Welche Beschreibung des Unterschieds zwischen Bagging (Random Forest u. Ä.) und Boosting beim Ensemble-Lernen trifft zu?
  2. Die Klasse des zweidimensionalen Punkts (0, 0) wird mit dem k-Nächste-Nachbarn-Verfahren vorhergesagt. Die Trainingsdaten bestehen aus den roten Punkten (1, 0), (3, 0) und (0, −3) sowie den blauen Punkten (0, 2) und (−2, 1). Welches Paar von Vorhersagen für k = 3 und k = 5 ist bei euklidischem Abstand richtig?
  3. Welche Beschreibung der Support Vector Machine (SVM) trifft zu?
  4. 20 % aller E-Mails sind Spam. Ein bestimmtes Wort kommt in 50 % der Spam-Mails und in 5 % der übrigen E-Mails vor. Welcher Wert liegt der Wahrscheinlichkeit am nächsten, dass eine E-Mail mit diesem Wort Spam ist?
  5. Welche logische Funktion lässt sich nicht mit einem einfachen Perzeptron darstellen, das nur aus Eingabe- und Ausgabeschicht besteht (ein einzelnes Neuron, das über einen Schwellenwert 0 oder 1 ausgibt)?