조건부 확률의 방향을 바꾸는 관계식으로, P(A | B) = P(B | A) × P(A) ÷ P(B)로 나타낸다. 원인 A의 사전 확률 P(A)를, 관측한 결과 B를 바탕으로 사후 확률 P(A | B)로 갱신하는 계산에 사용한다. 검사의 양성 예측도 계산, 스팸 메일 판정(나이브 베이즈), 고장 원인 추정 등에 사용된다. 원인이 드물 때는 정밀도가 높은 검사라도 양성의 대부분이 오류가 되는 '기저율의 영향'을 이 정리로부터 알 수 있다.
일본어 명칭: ベイズの定理
베이즈 정리(Bayes' Theorem)은(는) 확률·통계와 대기행렬, 머신러닝의 기초 등 2개 분야의 연습 문제 2개에 나와요.
분야: 확률·통계와 대기행렬
베이즈 정리는 P(A | B) = P(B | A) × P(A) ÷ P(B)로 씁니다. P(A)는 결과를 보기 전의 원인 A의 확률(사전 확률), P(B | A)는 원인 A가 있을 때 결과 B가 관측될 확률(우도), P(A | B)는 결과 B를 본 뒤의 원인 A의 확률(사후 확률)입니다. 분모의 P(B)는 원인이 있는 경우와 없는 경우를 합해서 결과 B가 일어날 확률로, P(B) = P(B | A) × P(A) + P(B | A가 아님) × P(A가 아님)으로 계산합니다.
불량품의 비율이 0.1%일 때, 불량품의 99%를 양성으로 판정하고 양품의 1%를 잘못 양성으로 판정하는 검사를 생각합니다. 1,000,000개로 생각하면, 불량품 1,000개 중 990개가 양성이 되고, 양품 999,000개 중 9,990개도 양성이 됩니다. 양성 중 정말로 불량인 것은 990 ÷ (990 + 9,990) ≈ 9%에 불과합니다. 이처럼 구체적인 개수로 바꾸어 표를 만들면, 식을 외우고 있지 않아도 올바르게 계산할 수 있습니다.
스팸 메일 판정에서는 단어별 출현 확률로부터 메일이 스팸일 확률을 구하는 나이브 베이즈 분류가 예전부터 사용되어 왔습니다. 장치의 고장 진단에서는 관측된 증상으로부터 생각할 수 있는 원인의 확률을 갱신합니다. 새로운 데이터가 들어올 때마다 사후 확률을 다음 사전 확률로 사용하면, 추정을 조금씩 개선할 수 있습니다.
정답: B. 약 19%
10,000개로 생각하면, 불량 100개 중 95개가 양성이 되고, 양품 9,900개 중 396개도 양성이 됩니다. 양성 491개 중 실제로 불량인 것은 95개이므로 95 ÷ 491 ≈ 0.19, 즉 약 19%입니다. 베이즈 정리로 쓰면 P(불량 | 양성) = 0.01 × 0.95 ÷ (0.01 × 0.95 + 0.99 × 0.04) ≈ 0.19입니다. 불량이 드물 때는, 잘못 양성으로 판정하는 비율이 작더라도 양성 중에 양품이 많이 섞입니다. 이것을 기저율(사전 확률)의 영향이라고 합니다.
정답: C. 0.71
베이즈 정리에 따라 P(스팸 | 단어) = P(단어 | 스팸) × P(스팸) ÷ P(단어)입니다. 분자는 0.5 × 0.2 = 0.10, 단어를 포함할 확률은 P(단어) = 0.5 × 0.2 + 0.05 × 0.8 = 0.14이므로, 0.10 ÷ 0.14 ≈ 0.71입니다. 나이브 베이즈 분류는 여러 단어(특성)가 클래스별로 서로 독립이라고 가정하고, 각각의 확률을 곱하여 이 계산을 수행하는 방법으로, 스팸 판정에 예전부터 사용되어 왔습니다.
조사하는 대상 중에 원인(불량이나 질병)이 매우 드물면, 잘못 양성이 되는 양품의 수가 진짜 양성의 수보다 많아지기 때문입니다. 예를 들어 양품이 불량품의 1,000배라면, 1%의 오류라도 양성의 수는 불량품의 약 10배가 됩니다. 양성 결과를 얼마나 믿어도 되는지는 검사의 정밀도뿐 아니라, 원래의 비율(기저율)에도 좌우됩니다.
조건부 확률은 'B가 일어났을 때 A가 일어날 확률'이라는 양 자체이고, 베이즈 정리는 그 방향을 바꾼 P(A | B)와 P(B | A)의 관계를 나타내는 식입니다. 검사의 정밀도로서 알고 있는 것은 P(양성 | 불량)이고, 알고 싶은 것은 P(불량 | 양성)인 경우에 이 정리를 사용합니다.
베이즈 정리로 쓰면 P(불량 | 양성) = 0.01 × 0.95 ÷ (0.01 × 0.95 + 0.99 × 0.04) ≈ 0.19입니다.
어떤 칩 집단에서는 잠재적인 불량을 가진 칩의 비율이 1%이다. 스크리닝 검사는 불량 칩의 95%를 양성으…베이즈 정리에 따라 P(스팸 | 단어) = P(단어 | 스팸) × P(스팸) ÷ P(단어)입니다.
전체 메일의 20%가 스팸이다. 어떤 단어는 스팸의 50%와 스팸이 아닌 메일의 5%에 포함된다. 이 단어…가설 검정(Hypothesis Testing) 기댓값(Expected Value) 대기행렬 이론(Queueing Theory) 사분위수(Quartile) 상관 계수(Correlation Coefficient) 순열과 조합(Permutations and Combinations) 신뢰 구간(Confidence Interval) 이항 분포(Binomial Distribution) 정규 분포(Normal Distribution) 조건부 확률(Conditional Probability)