資訊理論與編碼基礎
某資訊源以機率0.3、0.25、0.2、0.15、0.1彼此獨立地輸出符號A～E，以霍夫曼編碼進行編碼。相等的機率先選哪一個，可能會使碼字不同，但平均碼長不變。每個符號的平均碼長為下列何者？
- A2.25位元
- B2.4位元
- C3位元
查看答案與解析
正確答案：A. 2.25位元
先把0.1與0.15合併為0.25，接著把0.2與0.25合併為0.45，再把剩下的0.25與0.3合併為0.55，最後合併0.45與0.55。碼長為A、B、C 2位元、D與E 3位元，平均碼長為 (0.3 + 0.25 + 0.2) × 2 + (0.15 + 0.1) × 3 = 1.5 + 0.75 = 2.25 位元。機率偏差不大的資訊源，長度整齊的碼會比 1、2、3、4、4 這種階梯狀的碼長更短。
- A. 正確。碼長為2、2、2、3、3，平均為2.25位元。
- B. 2.4位元是把碼長依階梯分配為1、2、3、4、4時的值。雖然可以做成前綴碼，但對這組機率並非最佳。
- C. 3位元是以相同長度表示5種符號之固定長度碼的碼長。