資訊理論與編碼基礎
某資訊源以機率0.4、0.3、0.2、0.1彼此獨立地輸出符號A、B、C、D,以霍夫曼編碼進行編碼。每個符號的平均碼長為下列何者?
- A約1.85位元
- B1.9位元
- C2位元
查看答案與解析
正確答案:B. 1.9位元
霍夫曼編碼反覆把機率最小的2個合併。先把0.1與0.2合併為0.3,接著把0.3與0.3合併為0.6,最後合併0.6與0.4,因此碼長為A 1位元、B 2位元、C與D 3位元。平均碼長為 0.4 × 1 + 0.3 × 2 + 0.2 × 3 + 0.1 × 3 = 1.9 位元。
- A. 約1.85位元是此資訊源的熵,是平均碼長的下限。由於機率不是1/2、1/4這類2的冪次分之一,即使是霍夫曼編碼也無法短到這個程度。
- B. 正確。0.4 + 0.6 + 0.6 + 0.3 = 1.9 位元。
- C. 2位元是以相同長度表示4種符號之固定長度碼的碼長。
繼續練習資訊理論與編碼基礎的另外9題