資訊理論與編碼基礎

某資訊源以機率0.4、0.3、0.2、0.1彼此獨立地輸出符號A、B、C、D,以霍夫曼編碼進行編碼。每個符號的平均碼長為下列何者?

  1. A約1.85位元
  2. B1.9位元
  3. C2位元
查看答案與解析

正確答案:B. 1.9位元

霍夫曼編碼反覆把機率最小的2個合併。先把0.1與0.2合併為0.3,接著把0.3與0.3合併為0.6,最後合併0.6與0.4,因此碼長為A 1位元、B 2位元、C與D 3位元。平均碼長為 0.4 × 1 + 0.3 × 2 + 0.2 × 3 + 0.1 × 3 = 1.9 位元。

  • A. 約1.85位元是此資訊源的熵,是平均碼長的下限。由於機率不是1/2、1/4這類2的冪次分之一,即使是霍夫曼編碼也無法短到這個程度。
  • B. 正確。0.4 + 0.6 + 0.6 + 0.3 = 1.9 位元。
  • C. 2位元是以相同長度表示4種符號之固定長度碼的碼長。
練習這個領域 前往領域頁面

資訊理論與編碼基礎的其他題目

  1. 某資訊源以機率0.3、0.25、0.2、0.15、0.1彼此獨立地輸出符號A~E,以霍夫曼編碼進行編碼。相等的機率先選哪一個,可能會使碼字不同,但平均碼長不變。每個符號的平均碼長為下列何者?
  2. 某資訊源以機率0.6、0.3、0.1彼此獨立地輸出符號A、B、C,其熵約為1.30位元。以霍夫曼編碼對此資訊源編碼時,效率(熵 ÷ 平均碼長)最接近下列何者?
  3. 某二元資訊源以機率0.8輸出0、以機率0.2輸出1,且彼此獨立。把每2個符號合成的00、01、10、11這4種分別視為1個符號,以霍夫曼編碼進行編碼。原本每個符號的平均碼長為下列何者?
  4. 關於無失真壓縮與資訊源之熵的關係,下列說明何者正確?
  5. 以行程長度編碼壓縮40個字元的字串 AAAAAAAAAAAABBBBCCCCCCCCCCCCCCCCCCCCDDDD(A 12個、B 4個、C 20個、D 4個),把相同字元的連續以「字元(1位元組)與個數(1位元組)」的組合表示。原本的字串為每個字元1位元組,若壓縮率定義為「壓縮後大小 ÷ 壓縮前大小」,壓縮率為下列何者?