Grundlagen des maschinellen Lernens

20 % aller E-Mails sind Spam. Ein bestimmtes Wort kommt in 50 % der Spam-Mails und in 5 % der übrigen E-Mails vor. Welcher Wert liegt der Wahrscheinlichkeit am nächsten, dass eine E-Mail mit diesem Wort Spam ist?

  1. A0,10
  2. B0,50
  3. C0,71
Antwort und Erläuterung anzeigen

Antwort: C. 0,71

Nach dem Satz von Bayes gilt P(Spam | Wort) = P(Wort | Spam) × P(Spam) ÷ P(Wort). Der Zähler beträgt 0,5 × 0,2 = 0,10, und die Wahrscheinlichkeit, das Wort zu enthalten, ist P(Wort) = 0,5 × 0,2 + 0,05 × 0,8 = 0,14; das Ergebnis ist also 0,10 ÷ 0,14 ≈ 0,71. Die Naive-Bayes-Klassifikation führt diese Rechnung aus, indem sie annimmt, dass mehrere Wörter (Merkmale) innerhalb jeder Klasse voneinander unabhängig sind, und deren Wahrscheinlichkeiten multipliziert; sie wird seit Langem zur Spamerkennung eingesetzt.

Dieses Thema üben Zur Themenseite

Weitere Fragen zu Grundlagen des maschinellen Lernens

  1. Welche logische Funktion lässt sich nicht mit einem einfachen Perzeptron darstellen, das nur aus Eingabe- und Ausgabeschicht besteht (ein einzelnes Neuron, das über einen Schwellenwert 0 oder 1 ausgibt)?
  2. Bei einer Klassifikation mit drei Klassen betragen die Eingabewerte der Softmax-Funktion (Logits) 3, 1 und 0. Etwa das Wievielfache der Ausgabe (Wahrscheinlichkeit) der zweiten Klasse ist die Ausgabe der ersten Klasse? Welcher Wert liegt am nächsten?
  3. Ein kleines neuronales Netz mit den Eingaben x₁ = 1 und x₂ = 2 hat zwei Neuronen in der verborgenen Schicht, h₁ = ReLU(x₁ + x₂ − 1) und h₂ = ReLU(x₁ − 2x₂ + 1), und die Ausgabe y = 2h₁ + 3h₂ + 1. Welchen Wert hat y?
  4. Sei p die Wahrscheinlichkeit, die ein Modell für die richtige Klasse ausgibt. Welche Beschreibung des beim Training von Klassifikatoren verwendeten Kreuzentropie-Verlusts −log p trifft zu?
  5. Beim Gradientenabstieg hat der Gradient des Verlusts ∂L/∂w beim Gewicht w = 2,0 den Wert 0,5, und die Lernrate beträgt 0,1. Wie groß ist das Gewicht nach einer Aktualisierung?