Basis van informatietheorie en codering

Een bron zendt de symbolen A, B en C onafhankelijk uit met kansen 0,6; 0,3 en 0,1, en haar entropie is ongeveer 1,30 bit. Welke waarde ligt het dichtst bij het rendement (entropie ÷ gemiddelde codelengte) wanneer deze bron met een Huffman-code wordt gecodeerd?

  1. AOngeveer 65%
  2. B70%
  3. COngeveer 93%
Antwoord en toelichting tonen

Antwoord: C. Ongeveer 93%

De Huffman-code voegt 0,1 en 0,3 samen tot 0,4 en daarna 0,4 en 0,6, zodat de codelengtes 1 bit voor A en 2 bit voor B en C zijn. De gemiddelde codelengte is 0,6 × 1 + 0,3 × 2 + 0,1 × 2 = 1,4 bit, en het rendement is 1,30 ÷ 1,4 ≈ 0,93, oftewel ongeveer 93%. De resterende 7% of zo is verspilling die ontstaat doordat codelengtes beperkt zijn tot gehele aantallen bits.

Dit onderwerp oefenen Naar de onderwerppagina

Meer vragen over Basis van informatietheorie en codering

  1. Een binaire bron zendt onafhankelijk 0 uit met kans 0,8 en 1 met kans 0,2. De symbolen worden per twee genomen, elk van de vier paren 00, 01, 10 en 11 wordt als één symbool behandeld, en ze worden gecodeerd met een Huffman-code. Wat is de gemiddelde codelengte per oorspronkelijk symbool?
  2. Welke beschrijving van het verband tussen verliesvrije compressie en de entropie van een bron is juist?
  3. De tekenreeks van 40 tekens AAAAAAAAAAAABBBBCCCCCCCCCCCCCCCCCCCCDDDD (12 keer A, 4 keer B, 20 keer C en 4 keer D) wordt gecomprimeerd met run-length encoding, die elke reeks van hetzelfde opeenvolgende teken weergeeft als een paar „teken (1 byte) en aantal (1 byte)”. De oorspronkelijke tekenreeks gebruikt 1 byte per teken. Als de compressieverhouding wordt gedefinieerd als „grootte na compressie ÷ grootte voor compressie”, wat is dan de compressieverhouding?
  4. Welke gegevens worden met run-length encoding waarschijnlijk het kleinst?
  5. Welke beschrijving van het idee achter de LZ77-methode, die in ZIP, gzip en vergelijkbare tools wordt gebruikt, is juist?