Français
Menu

Qu'est-ce que Longueur moyenne de code ?

Moyenne des longueurs des mots de code des symboles, pondérée par la probabilité d'apparition de chaque symbole. Avec pᵢ la probabilité du symbole i et lᵢ la longueur de son mot de code, elle vaut L = Σ pᵢ lᵢ (bits par symbole). Attribuer des mots de code courts aux symboles fréquents la rend petite, et pour un code sans perte elle est au moins égale à l'entropie. L'entropie divisée par la longueur moyenne de code s'appelle l'efficacité du codage. Par exemple, coder avec un code de Huffman quatre symboles de probabilités 0,4 ; 0,3 ; 0,2 et 0,1 donne une longueur moyenne de code de 1,9 bit.

Nom japonais: 平均符号長

« Longueur moyenne de code » apparaît dans 6 questions d'entraînement réparties sur 1 thèmes, dont Bases de la théorie de l'information et du codage.

Domaine: Bases de la théorie de l'information et du codage

S'entraîner : questions sur Longueur moyenne de code

Une source émet les symboles A, B, C et D indépendamment avec les probabilités 0,4 ; 0,3 ; 0,2 et 0,1, et on la code avec un code de Huffman. Quelle est la longueur moyenne de code par symbole ?

  1. AEnviron 1,85 bit
  2. B1,9 bit
  3. C2 bits
Afficher la réponse et l'explication

Réponse : B. 1,9 bit

Le codage de Huffman fusionne de façon répétée les deux plus petites probabilités. On fusionne d'abord 0,1 et 0,2 en 0,3, puis 0,3 et 0,3 en 0,6, et enfin 0,6 et 0,4 : les longueurs de code sont donc de 1 bit pour A, de 2 bits pour B et de 3 bits pour C et D. La longueur moyenne de code vaut 0,4 × 1 + 0,3 × 2 + 0,2 × 3 + 0,1 × 3 = 1,9 bit.

Une source émet les symboles A à E indépendamment avec les probabilités 0,3 ; 0,25 ; 0,2 ; 0,15 et 0,1, et on la code avec un code de Huffman. Les mots de code peuvent changer selon celle de deux probabilités égales que l'on choisit en premier, mais pas la longueur moyenne de code. Quelle est la longueur moyenne de code par symbole ?

  1. A2,25 bits
  2. B2,4 bits
  3. C3 bits
Afficher la réponse et l'explication

Réponse : A. 2,25 bits

On fusionne d'abord 0,1 et 0,15 en 0,25, puis 0,2 et 0,25 en 0,45, puis les 0,25 et 0,3 restants en 0,55, et enfin 0,45 et 0,55. Les longueurs de code sont de 2 bits pour A, B et C et de 3 bits pour D et E, et la longueur moyenne de code vaut (0,3 + 0,25 + 0,2) × 2 + (0,15 + 0,1) × 3 = 1,5 + 0,75 = 2,25 bits. Pour une source dont les probabilités sont peu déséquilibrées, un code aux longueurs presque égales est plus court qu'un code aux longueurs étagées comme 1, 2, 3, 4, 4.

« Longueur moyenne de code » dans les explications

Questions mentionnant « Longueur moyenne de code » (6)

  1. Une source émet les symboles A, B, C et D indépendamment avec les probabilités 0,4 ; 0,3 ; 0,2 et 0,1, et on la code avec un code de Huffman. Quelle est la longueur moyenne de code par symbole ?
  2. Une source émet les symboles A à E indépendamment avec les probabilités 0,3 ; 0,25 ; 0,2 ; 0,15 et 0,1, et on la code avec un code de Huffman. Les mots de code peuvent changer selon celle de deux probabilités égales que l'on choisit en premier, mais pas la longueur moyenne de code. Quelle est la longueur moyenne de code par symbole ?
  3. Une source émet les symboles A, B et C indépendamment avec les probabilités 0,6 ; 0,3 et 0,1, et son entropie vaut environ 1,30 bit. Quelle valeur est la plus proche de l'efficacité (entropie ÷ longueur moyenne de code) lorsque cette source est codée avec un code de Huffman ?
  4. Une source binaire émet 0 avec la probabilité 0,8 et 1 avec la probabilité 0,2, indépendamment. On regroupe les symboles deux par deux, on traite chacun des quatre couples 00, 01, 10 et 11 comme un seul symbole, et on les code avec un code de Huffman. Quelle est la longueur moyenne de code par symbole d'origine ?
  5. Par rapport à un code de longueur fixe, quelle description d'un code de longueur variable est correcte ?
  6. Quelle description de la relation entre la compression sans perte et l'entropie d'une source est correcte ?

Termes associés

Codage de Huffman Entropie de l'information Code préfixe Compression sans perte Bit de parité Canal binaire symétrique Codage par plages (RLE) Code de Hamming Compression avec perte Correction d'erreurs directe (FEC)

Retour au glossaire