資訊理論與編碼基礎
某資訊源以機率0.6、0.3、0.1彼此獨立地輸出符號A、B、C,其熵約為1.30位元。以霍夫曼編碼對此資訊源編碼時,效率(熵 ÷ 平均碼長)最接近下列何者?
- A約65%
- B70%
- C約93%
查看答案與解析
正確答案:C. 約93%
霍夫曼編碼先把0.1與0.3合併為0.4,再合併0.4與0.6,因此碼長為A 1位元、B與C 2位元。平均碼長為 0.6 × 1 + 0.3 × 2 + 0.1 × 2 = 1.4 位元,效率為 1.30 ÷ 1.4 ≈ 0.93,也就是約93%。剩下約7%是因碼長只能是整數位元而產生的浪費。
- A. 約65%是 1.30 ÷ 2,是以2位元的固定長度碼表示3種符號時的效率。
- B. 70%是 1.4 ÷ 2,是平均碼長相對於固定長度碼的比值,並不是效率。
- C. 正確。1.30 ÷ 1.4 ≈ 93%。
繼續練習資訊理論與編碼基礎的另外9題