Was ist Satz von Bayes?

Beziehung, mit der sich die Richtung einer bedingten Wahrscheinlichkeit umkehren lässt: P(A | B) = P(B | A) × P(A) ÷ P(B). Sie dient dazu, die A-priori-Wahrscheinlichkeit P(A) einer Ursache A anhand eines beobachteten Ergebnisses B zur A-posteriori-Wahrscheinlichkeit P(A | B) zu aktualisieren. Angewendet wird sie etwa zur Berechnung des positiven Vorhersagewerts von Tests, zur Spam-Erkennung (Naive Bayes) und zur Ermittlung von Ausfallursachen. Aus dem Satz folgt auch der „Einfluss der Basisrate“: Ist die Ursache selten, sind selbst bei einem genauen Test die meisten positiven Ergebnisse falsch.

Japanische Bezeichnung: ベイズの定理

„Satz von Bayes“ kommt in 2 Übungsfragen aus 2 Themen vor, z. B. Wahrscheinlichkeitsrechnung, Statistik und Warteschlangen, Grundlagen des maschinellen Lernens.

Fachgebiet: Wahrscheinlichkeitsrechnung, Statistik und Warteschlangen

Bedeutung der Formel

Der Satz von Bayes lautet P(A | B) = P(B | A) × P(A) ÷ P(B). P(A) ist die Wahrscheinlichkeit der Ursache A, bevor man das Ergebnis kennt (A-priori-Wahrscheinlichkeit), P(B | A) die Wahrscheinlichkeit, das Ergebnis B zu beobachten, wenn die Ursache A vorliegt (Likelihood), und P(A | B) die Wahrscheinlichkeit der Ursache A, nachdem man das Ergebnis B gesehen hat (A-posteriori-Wahrscheinlichkeit). Der Nenner P(B) ist die Wahrscheinlichkeit des Ergebnisses B über die Fälle mit und ohne Ursache zusammen und wird als P(B) = P(B | A) × P(A) + P(B | nicht A) × P(nicht A) berechnet.

Überlegung an einem Testbeispiel

Angenommen, 0,1 % der Teile sind defekt, und ein Test stuft 99 % der defekten Teile als positiv ein, aber auch 1 % der guten Teile fälschlich als positiv. Bei 1.000.000 Teilen werden 990 der 1000 defekten Teile positiv, aber auch 9990 der 999.000 guten Teile. Von den positiven Teilen sind nur 990 ÷ (990 + 9990) ≈ 9 % wirklich defekt. Ersetzt man die Wahrscheinlichkeiten so durch konkrete Stückzahlen und stellt eine Tabelle auf, rechnet man richtig, auch ohne die Formel auswendig zu kennen.

Anwendungen

Zur Spam-Erkennung wird seit Langem die Naive-Bayes-Klassifikation eingesetzt, die aus den Auftrittswahrscheinlichkeiten einzelner Wörter die Wahrscheinlichkeit berechnet, dass eine E-Mail Spam ist. Bei der Fehlerdiagnose von Anlagen werden die Wahrscheinlichkeiten möglicher Ursachen anhand der beobachteten Symptome aktualisiert. Verwendet man bei jedem neuen Datenpunkt die A-posteriori-Wahrscheinlichkeit als nächste A-priori-Wahrscheinlichkeit, lässt sich die Schätzung schrittweise verbessern.

Jetzt üben: Fragen zu Satz von Bayes

In einer Population von Chips haben 1 % einen latenten Defekt. Ein Screening-Test stuft 95 % der defekten Chips als positiv ein und stuft 4 % der guten Chips fälschlich als positiv ein. Welcher Wert liegt der Wahrscheinlichkeit am nächsten, dass ein als positiv eingestufter Chip tatsächlich defekt ist?

  1. AEtwa 4,9 %
  2. BEtwa 19 %
  3. CEtwa 95 %
Antwort und Erläuterung anzeigen

Antwort: B. Etwa 19 %

Bei 10.000 Chips werden 95 der 100 defekten Chips positiv, aber auch 396 der 9900 guten Chips. Von den 491 positiven Chips sind 95 tatsächlich defekt, also 95 ÷ 491 ≈ 0,19 bzw. etwa 19 %. Mit dem Satz von Bayes geschrieben: P(defekt | positiv) = 0,01 × 0,95 ÷ (0,01 × 0,95 + 0,99 × 0,04) ≈ 0,19. Sind Defekte selten, mischen sich unter die positiven Ergebnisse viele gute Chips, selbst wenn der Anteil der fälschlich positiven Einstufungen klein ist. Man spricht vom Einfluss der Basisrate (der A-priori-Wahrscheinlichkeit).

20 % aller E-Mails sind Spam. Ein bestimmtes Wort kommt in 50 % der Spam-Mails und in 5 % der übrigen E-Mails vor. Welcher Wert liegt der Wahrscheinlichkeit am nächsten, dass eine E-Mail mit diesem Wort Spam ist?

  1. A0,10
  2. B0,50
  3. C0,71
Antwort und Erläuterung anzeigen

Antwort: C. 0,71

Nach dem Satz von Bayes gilt P(Spam | Wort) = P(Wort | Spam) × P(Spam) ÷ P(Wort). Der Zähler beträgt 0,5 × 0,2 = 0,10, und die Wahrscheinlichkeit, das Wort zu enthalten, ist P(Wort) = 0,5 × 0,2 + 0,05 × 0,8 = 0,14; das Ergebnis ist also 0,10 ÷ 0,14 ≈ 0,71. Die Naive-Bayes-Klassifikation führt diese Rechnung aus, indem sie annimmt, dass mehrere Wörter (Merkmale) innerhalb jeder Klasse voneinander unabhängig sind, und deren Wahrscheinlichkeiten multipliziert; sie wird seit Langem zur Spamerkennung eingesetzt.

Häufige Fragen

Warum sind selbst bei einem genauen Test die meisten positiven Ergebnisse falsch?

Weil bei einer sehr seltenen Ursache (Defekt oder Krankheit) in der untersuchten Gesamtheit mehr gute Teile fälschlich positiv werden, als es echte Positive gibt. Gibt es zum Beispiel 1000-mal so viele gute wie defekte Teile, ist die Zahl der positiven Ergebnisse schon bei 1 % Fehlerquote etwa 10-mal so groß wie die Zahl der defekten Teile. Wie sehr man einem positiven Ergebnis trauen kann, hängt nicht nur von der Genauigkeit des Tests ab, sondern auch vom ursprünglichen Anteil (der Basisrate).

Worin unterscheidet er sich von der bedingten Wahrscheinlichkeit?

Die bedingte Wahrscheinlichkeit ist die Größe „Wahrscheinlichkeit von A, wenn B eingetreten ist“ selbst; der Satz von Bayes ist die Formel, die die Beziehung zwischen P(A | B) und der umgekehrten Richtung P(B | A) ausdrückt. Man verwendet ihn, wenn man als Genauigkeit eines Tests P(positiv | defekt) kennt, aber P(defekt | positiv) wissen möchte.

„Satz von Bayes“ in den Erläuterungen

Fragen mit „Satz von Bayes“ (2)

  1. In einer Population von Chips haben 1 % einen latenten Defekt. Ein Screening-Test stuft 95 % der defekten Chips als positiv ein und stuft 4 % der guten Chips fälschlich als positiv ein. Welcher Wert liegt der Wahrscheinlichkeit am nächsten, dass ein als positiv eingestufter Chip tatsächlich defekt ist?
  2. 20 % aller E-Mails sind Spam. Ein bestimmtes Wort kommt in 50 % der Spam-Mails und in 5 % der übrigen E-Mails vor. Welcher Wert liegt der Wahrscheinlichkeit am nächsten, dass eine E-Mail mit diesem Wort Spam ist?

Verwandte Begriffe

Bedingte Wahrscheinlichkeit Binomialverteilung Erwartungswert Exponentialverteilung Hypothesentest Konfidenzintervall Korrelationskoeffizient Median Normalverteilung Permutationen und Kombinationen

Zur Glossarübersicht