Eine Quelle gibt die Symbole A, B und C unabhängig voneinander mit den Wahrscheinlichkeiten 0,6; 0,3 und 0,1 aus; ihre Entropie beträgt etwa 1,30 Bit. Welcher Wert liegt der Effizienz (Entropie ÷ mittlere Codewortlänge) am nächsten, wenn diese Quelle mit einem Huffman-Code kodiert wird?

Antwort: C. Etwa 93 %

Bei der Huffman-Kodierung werden 0,1 und 0,3 zu 0,4 und danach 0,4 und 0,6 zusammengefasst; die Codewortlängen sind also 1 für A und 2 Bit für B und C. Die mittlere Codewortlänge beträgt 0,6 × 1 + 0,3 × 2 + 0,1 × 2 = 1,4 Bit, und die Effizienz ist 1,30 ÷ 1,4 ≈ 0,93, also etwa 93 %. Die restlichen etwa 7 % sind Verschwendung, die entsteht, weil Codewortlängen auf ganze Bits beschränkt sind.