Wat is Stelling van Bayes?

Het verband dat de richting van een voorwaardelijke kans omdraait: P(A | B) = P(B | A) × P(A) ÷ P(B). De stelling wordt gebruikt om de a-priorikans P(A) van een oorzaak A op grond van een waargenomen resultaat B bij te werken tot de a-posteriorikans P(A | B). Toepassingen zijn het berekenen van de positief voorspellende waarde van een test, spamfilters (naive Bayes) en het schatten van de oorzaken van storingen. De stelling laat ook het effect van de basisfrequentie zien: als de oorzaak zeldzaam is, is een groot deel van de positieven onterecht, zelfs bij een nauwkeurige test.

Japanse benaming: ベイズの定理

“Stelling van Bayes” komt voor in 2 oefenvragen uit 2 onderwerpen, bijv. Kansrekening, statistiek en wachtrijen, Basis van machine learning.

Vakgebied: Kansrekening, statistiek en wachtrijen

Wat de formule betekent

De stelling van Bayes wordt geschreven als P(A | B) = P(B | A) × P(A) ÷ P(B). P(A) is de kans op oorzaak A voordat het resultaat bekend is (de a-priorikans), P(B | A) is de kans om resultaat B waar te nemen als oorzaak A aanwezig is (de likelihood), en P(A | B) is de kans op oorzaak A nadat resultaat B is gezien (de a-posteriorikans). De noemer P(B) is de kans op resultaat B met en zonder de oorzaak samen, berekend als P(B) = P(B | A) × P(A) + P(B | niet A) × P(niet A).

Uitgewerkt met een testvoorbeeld

Neem een test die 99% van de defecte onderdelen als positief beoordeelt en ten onrechte 1% van de goede onderdelen als positief beoordeelt, terwijl 0,1% van de onderdelen defect is. Van 1 miljoen onderdelen testen 990 van de 1000 defecte positief, en ook 9990 van de 999.000 goede. Slechts 990 ÷ (990 + 9990) ≈ 9% van de positieven is werkelijk defect. Door de kansen zo in een tabel te vervangen door concrete aantallen, kom je ook zonder de formule te onthouden tot het juiste antwoord.

Waar de stelling wordt gebruikt

Spamfilters gebruiken al lang de naive-Bayesclassificatie, die uit de kansen van de woorden in een e-mail de kans berekent dat het bericht spam is. Bij foutdiagnose van apparatuur worden de kansen op mogelijke oorzaken bijgewerkt op grond van de waargenomen symptomen. Door telkens wanneer er nieuwe gegevens binnenkomen de a-posteriorikans als volgende a-priorikans te gebruiken, wordt de schatting stap voor stap beter.

Nu oefenen: vragen over Stelling van Bayes

In een populatie chips heeft 1% een latent defect. Een screeningstest beoordeelt 95% van de defecte chips als positief en beoordeelt ten onrechte 4% van de goede chips als positief. Welke waarde ligt het dichtst bij de kans dat een als positief beoordeelde chip werkelijk defect is?

  1. AOngeveer 4,9%
  2. BOngeveer 19%
  3. COngeveer 95%
Antwoord en toelichting tonen

Antwoord: B. Ongeveer 19%

Bij 10.000 chips testen 95 van de 100 defecte chips positief, en ook 396 van de 9900 goede chips. Van de 491 positieven zijn er slechts 95 werkelijk defect, dus 95 ÷ 491 ≈ 0,19, ofwel ongeveer 19%. Met de stelling van Bayes geschreven: P(defect | positief) = 0,01 × 0,95 ÷ (0,01 × 0,95 + 0,99 × 0,04) ≈ 0,19. Als defecten zeldzaam zijn, zitten er tussen de positieven veel goede chips, ook al is het percentage dat ten onrechte positief wordt beoordeeld klein. Dit heet het effect van de basisfrequentie (a-priorikans).

20% van alle e-mails is spam. Een bepaald woord komt voor in 50% van de spammails en in 5% van de andere e-mails. Welke waarde ligt het dichtst bij de kans dat een e-mail met dit woord spam is?

  1. A0,10
  2. B0,50
  3. C0,71
Antwoord en toelichting tonen

Antwoord: C. 0,71

Volgens de stelling van Bayes is P(spam | woord) = P(woord | spam) × P(spam) ÷ P(woord). De teller is 0,5 × 0,2 = 0,10, en de kans dat het woord voorkomt is P(woord) = 0,5 × 0,2 + 0,05 × 0,8 = 0,14, dus 0,10 ÷ 0,14 ≈ 0,71. Naive-Bayesclassificatie voert deze berekening uit door aan te nemen dat meerdere woorden (kenmerken) binnen elke klasse onderling onafhankelijk zijn en hun kansen te vermenigvuldigen; ze wordt al lang voor spamdetectie gebruikt.

Veelgestelde vragen

Waarom is een groot deel van de positieven onterecht, zelfs bij een nauwkeurige test?

Als de oorzaak (een defect of een ziekte) onder de geteste exemplaren zeer zeldzaam is, is het aantal goede exemplaren dat ten onrechte positief wordt beoordeeld groter dan het aantal terecht positieven. Zijn er bijvoorbeeld 1000 keer zoveel goede als defecte exemplaren, dan geeft zelfs een foutpercentage van 1% ongeveer tien keer zoveel positieven als er defecte exemplaren zijn. Hoeveel vertrouwen een positief resultaat verdient, hangt dus niet alleen af van de nauwkeurigheid van de test, maar ook van het oorspronkelijke aandeel (de basisfrequentie).

Wat is het verschil met een voorwaardelijke kans?

Een voorwaardelijke kans is de grootheid zelf, „de kans dat A optreedt als B is opgetreden”, terwijl de stelling van Bayes een formule is die het verband tussen P(A | B) en P(B | A) uitdrukt, met de richting omgedraaid. Je gebruikt de stelling wanneer de bekende nauwkeurigheid van een test P(positief | defect) is, maar je P(defect | positief) wilt weten.

“Stelling van Bayes” in de toelichting

Vragen met “Stelling van Bayes” (2)

  1. In een populatie chips heeft 1% een latent defect. Een screeningstest beoordeelt 95% van de defecte chips als positief en beoordeelt ten onrechte 4% van de goede chips als positief. Welke waarde ligt het dichtst bij de kans dat een als positief beoordeelde chip werkelijk defect is?
  2. 20% van alle e-mails is spam. Een bepaald woord komt voor in 50% van de spammails en in 5% van de andere e-mails. Welke waarde ligt het dichtst bij de kans dat een e-mail met dit woord spam is?

Verwante termen

Betrouwbaarheidsinterval Binomiale verdeling Correlatiecoëfficiënt Exponentiële verdeling Hypothesetoets Kwartiel Mediaan Normale verdeling Permutaties en combinaties Poissonverdeling

Naar de woordenlijst