Bases de la théorie de l'information et du codage

Une source émet les symboles A, B, C et D indépendamment avec les probabilités 0,4 ; 0,3 ; 0,2 et 0,1, et on la code avec un code de Huffman. Quelle est la longueur moyenne de code par symbole ?

AEnviron 1,85 bit
B1,9 bit
C2 bits

Afficher la réponse et l'explication

Réponse : B. 1,9 bit

Le codage de Huffman fusionne de façon répétée les deux plus petites probabilités. On fusionne d'abord 0,1 et 0,2 en 0,3, puis 0,3 et 0,3 en 0,6, et enfin 0,6 et 0,4 : les longueurs de code sont donc de 1 bit pour A, de 2 bits pour B et de 3 bits pour C et D. La longueur moyenne de code vaut 0,4 × 1 + 0,3 × 2 + 0,2 × 3 + 0,1 × 3 = 1,9 bit.

S'entraîner sur ce thème Retour au thème

Autres questions sur Bases de la théorie de l'information et du codage

Une source émet les symboles A à E indépendamment avec les probabilités 0,3 ; 0,25 ; 0,2 ; 0,15 et 0,1, et on la code avec un code de Huffman. Les mots de code peuvent changer selon celle de deux probabilités égales que l'on choisit en premier, mais pas la longueur moyenne de code. Quelle est la longueur moyenne de code par symbole ?
Une source émet les symboles A, B et C indépendamment avec les probabilités 0,6 ; 0,3 et 0,1, et son entropie vaut environ 1,30 bit. Quelle valeur est la plus proche de l'efficacité (entropie ÷ longueur moyenne de code) lorsque cette source est codée avec un code de Huffman ?
Une source binaire émet 0 avec la probabilité 0,8 et 1 avec la probabilité 0,2, indépendamment. On regroupe les symboles deux par deux, on traite chacun des quatre couples 00, 01, 10 et 11 comme un seul symbole, et on les code avec un code de Huffman. Quelle est la longueur moyenne de code par symbole d'origine ?
Quelle description de la relation entre la compression sans perte et l'entropie d'une source est correcte ?
La chaîne de 40 caractères AAAAAAAAAAAABBBBCCCCCCCCCCCCCCCCCCCCDDDD (12 A, 4 B, 20 C et 4 D) est compressée avec le codage par plages, qui représente chaque suite d'un même caractère par un couple « caractère (1 octet) et nombre (1 octet) ». La chaîne d'origine utilise 1 octet par caractère. Si l'on définit le taux de compression comme « taille après compression ÷ taille avant compression », quel est le taux de compression ?