Basis van informatietheorie en codering
Een bron zendt de symbolen A tot E onafhankelijk uit met kansen 0,3; 0,25; 0,2; 0,15 en 0,1, en wordt gecodeerd met een Huffman-code. De codewoorden kunnen veranderen afhankelijk van welke van twee gelijke kansen eerst wordt gekozen, maar de gemiddelde codelengte niet. Wat is de gemiddelde codelengte per symbool?
- A2,25 bit
- B2,4 bit
- C3 bit
Antwoord en toelichting tonen
Antwoord: A. 2,25 bit
Eerst worden 0,1 en 0,15 samengevoegd tot 0,25, daarna 0,2 en 0,25 tot 0,45, vervolgens de resterende 0,25 en 0,3 tot 0,55, en ten slotte 0,45 en 0,55. De codelengtes zijn 2 bit voor A, B en C en 3 bit voor D en E, en de gemiddelde codelengte is (0,3 + 0,25 + 0,2) × 2 + (0,15 + 0,1) × 3 = 1,5 + 0,75 = 2,25 bit. Bij een bron waarvan de kansen weinig scheef verdeeld zijn, is een code met bijna gelijke lengtes korter dan een code met trapsgewijze lengtes zoals 1, 2, 3, 4, 4.
Verder: nog 9 vragen over Basis van informatietheorie en codering