什麼是貝氏定理

把條件機率的方向互換的關係式,表示為 P(A | B) = P(B | A) × P(A) ÷ P(B)。用於根據觀測到的結果B,把原因A的事前機率 P(A) 更新為事後機率 P(A | B)。可用於計算檢查的陽性預測值、垃圾郵件的判斷(單純貝氏),以及推估故障原因等。由此定理也可知道「基本比率的影響」:當原因很少見時,即使是精確度高的檢查,陽性中也有許多是錯誤的。

日文名稱: ベイズの定理

「貝氏定理」出現在2領域的2道練習題中(機率、統計與等候理論, 機器學習基礎等)。

這個名詞所屬的領域: 機率、統計與等候理論

式子的意義

貝氏定理寫作 P(A | B) = P(B | A) × P(A) ÷ P(B)。P(A) 是看到結果之前原因A的機率(事前機率),P(B | A) 是有原因A時觀測到結果B的機率(概似),P(A | B) 是看到結果B之後原因A的機率(事後機率)。分母的 P(B) 是有原因與沒有原因兩種情形合計下結果B發生的機率,以 P(B) = P(B | A) × P(A) + P(B | 非A) × P(非A) 計算。

以檢查為例來思考

考慮不良品比例為0.1%時,會把不良品的99%判定為陽性、把良品的1%誤判為陽性的檢查。以100萬個來思考,不良品1,000個中有990個為陽性,良品999,000個中也有9,990個為陽性。陽性之中真正不良的只有 990 ÷ (990 + 9,990) ≈ 9%。像這樣換成具體的個數並製表,即使記不得公式也能正確計算。

使用的場合

在垃圾郵件的判斷中,很早就使用由各單字出現的機率求出郵件為垃圾郵件之機率的單純貝氏分類。在裝置的故障診斷中,會由觀測到的症狀更新可能原因的機率。每當有新資料時,把事後機率當作下一次的事前機率,就能逐步改善估計。

練習貝氏定理的題目

在某個晶片群體中,帶有潛在不良的晶片比例為1%。篩檢的檢查會把不良晶片的95%判定為陽性,並把良品晶片的4%誤判為陽性。被判定為陽性的晶片實際上為不良品的機率最接近下列何者?

  1. A約4.9%
  2. B約19%
  3. C約95%
查看答案與解析

正確答案:B. 約19%

以10,000個來思考,不良的100個中有95個為陽性,良品的9,900個中也有396個為陽性。在陽性的491個中,實際上不良的只有95個,因此為 95 ÷ 491 ≈ 0.19,也就是約19%。以貝氏定理表示,P(不良|陽性)= 0.01 × 0.95 ÷ (0.01 × 0.95 + 0.99 × 0.04) ≈ 0.19。當不良很少見時,即使誤判為陽性的比例很小,陽性之中也會混入許多良品。這稱為基本比率(事前機率)的影響。

全部電子郵件中有20%是垃圾郵件。某個單字出現在50%的垃圾郵件,以及5%的非垃圾郵件中。含有此單字的郵件為垃圾郵件的機率最接近下列何者?

  1. A0.10
  2. B0.50
  3. C0.71
查看答案與解析

正確答案:C. 0.71

由貝氏定理,P(垃圾郵件|單字)= P(單字|垃圾郵件)× P(垃圾郵件)÷ P(單字)。分子為 0.5 × 0.2 = 0.10,含有該單字的機率為 P(單字)= 0.5 × 0.2 + 0.05 × 0.8 = 0.14,因此為 0.10 ÷ 0.14 ≈ 0.71。單純貝氏分類假設多個單字(特徵)在每個類別中彼此獨立,將各自的機率相乘來進行此計算,很早就被用於垃圾郵件的判斷。

常見問題

為什麼精確度高的檢查,陽性中也有許多是錯誤的?

因為當受檢對象中原因(不良或疾病)非常少見時,被誤判為陽性的良品數會比真正陽性的數目還多。例如良品是不良品的1,000倍時,即使只有1%的錯誤,陽性的數目也約為不良品的10倍。陽性結果可信到什麼程度,不只取決於檢查的精確度,也取決於原本的比例(基本比率)。

與條件機率有何不同?

條件機率是「B發生時A發生的機率」這個量本身,而貝氏定理是表示把方向互換的 P(A | B) 與 P(B | A) 之間關係的式子。當已知的檢查精確度是 P(陽性 | 不良),而想知道的是 P(不良 | 陽性) 時,就會用到這個定理。

解析中的「貝氏定理」

出現「貝氏定理」的題目(2題)

  1. 在某個晶片群體中,帶有潛在不良的晶片比例為1%。篩檢的檢查會把不良晶片的95%判定為陽性,並把良品晶片的4%誤判為陽性。被判定為陽性的晶片實際上為不良品的機率最接近下列何者?
  2. 全部電子郵件中有20%是垃圾郵件。某個單字出現在50%的垃圾郵件,以及5%的非垃圾郵件中。含有此單字的郵件為垃圾郵件的機率最接近下列何者?

相關名詞

二項分布 卜瓦松分布 中位數 四分位數 信賴區間 指數分布 相關係數 假設檢定 常態分布 排列與組合

前往名詞解釋列表