Bases de la théorie de l'information et du codage

Une source émet les symboles A à E indépendamment avec les probabilités 0,3 ; 0,25 ; 0,2 ; 0,15 et 0,1, et on la code avec un code de Huffman. Les mots de code peuvent changer selon celle de deux probabilités égales que l'on choisit en premier, mais pas la longueur moyenne de code. Quelle est la longueur moyenne de code par symbole ?

  1. A2,25 bits
  2. B2,4 bits
  3. C3 bits
Afficher la réponse et l'explication

Réponse : A. 2,25 bits

On fusionne d'abord 0,1 et 0,15 en 0,25, puis 0,2 et 0,25 en 0,45, puis les 0,25 et 0,3 restants en 0,55, et enfin 0,45 et 0,55. Les longueurs de code sont de 2 bits pour A, B et C et de 3 bits pour D et E, et la longueur moyenne de code vaut (0,3 + 0,25 + 0,2) × 2 + (0,15 + 0,1) × 3 = 1,5 + 0,75 = 2,25 bits. Pour une source dont les probabilités sont peu déséquilibrées, un code aux longueurs presque égales est plus court qu'un code aux longueurs étagées comme 1, 2, 3, 4, 4.

S'entraîner sur ce thème Retour au thème

Autres questions sur Bases de la théorie de l'information et du codage

  1. Une source émet les symboles A, B et C indépendamment avec les probabilités 0,6 ; 0,3 et 0,1, et son entropie vaut environ 1,30 bit. Quelle valeur est la plus proche de l'efficacité (entropie ÷ longueur moyenne de code) lorsque cette source est codée avec un code de Huffman ?
  2. Une source binaire émet 0 avec la probabilité 0,8 et 1 avec la probabilité 0,2, indépendamment. On regroupe les symboles deux par deux, on traite chacun des quatre couples 00, 01, 10 et 11 comme un seul symbole, et on les code avec un code de Huffman. Quelle est la longueur moyenne de code par symbole d'origine ?
  3. Quelle description de la relation entre la compression sans perte et l'entropie d'une source est correcte ?
  4. La chaîne de 40 caractères AAAAAAAAAAAABBBBCCCCCCCCCCCCCCCCCCCCDDDD (12 A, 4 B, 20 C et 4 D) est compressée avec le codage par plages, qui représente chaque suite d'un même caractère par un couple « caractère (1 octet) et nombre (1 octet) ». La chaîne d'origine utilise 1 octet par caractère. Si l'on définit le taux de compression comme « taille après compression ÷ taille avant compression », quel est le taux de compression ?
  5. Quelles données le codage par plages a-t-il le plus de chances de rendre les plus petites ?