關於無失真壓縮與資訊源之熵的關係，下列說明何者正確？

正確答案：C. 無失真碼的平均碼長無法小於熵，但把符號合併編碼就能接近熵

對彼此獨立輸出符號的資訊源，無失真碼每個符號的平均碼長不會小於熵，而把符號合併編碼，可以任意接近熵（資訊源編碼定理）。此外，n位元的檔案有2ⁿ種，但比它短的位元串全部只有 2ⁿ − 1 種，因此不存在能讓所有檔案都變短的無失真壓縮。無失真壓縮是以讓其他資料稍微變長為代價，縮短具有偏差或重複的資料。

• A. 由鴿籠原理可知，無法讓所有檔案都變短。隨機的資料或已壓縮過的資料，幾乎不會變小。
• B. 熵是平均碼長的下限。若想比它更短，就會成為無法唯一解碼的碼。
• C. 正確。熵給出了無失真編碼的極限。