Français
Menu

Bases de la théorie de l'information et du codage

Une source qui émet 8 sortes de symboles a une entropie de 2,4 bits. Si l'on définit la redondance comme 1 − (entropie ÷ entropie maximale), quelle est la redondance de cette source ?

  1. A20 %
  2. B25 %
  3. C80 %
Afficher la réponse et l'explication

Réponse : A. 20 %

L'entropie maximale pour 8 sortes de symboles est log₂ 8 = 3 bits, donc la redondance vaut 1 − 2,4 ÷ 3 = 1 − 0,8 = 0,2, soit 20 %. La redondance exprime la part de gaspillage, due notamment au déséquilibre des probabilités des symboles, par rapport à la quantité d'information maximale. Plus une source est redondante, plus la compression sans perte a de marge pour la réduire.

S'entraîner sur ce thème Retour au thème

Autres questions sur Bases de la théorie de l'information et du codage

  1. Pour deux variables aléatoires X et Y, quelle description de l'entropie conditionnelle H(X|Y) et de l'information mutuelle I(X;Y) est correcte ?
  2. Deux variables aléatoires X (valeur 0 ou 1) et Y (valeur a, b ou c) ont les probabilités conjointes P(0, a) = P(0, b) = P(1, b) = P(1, c) = 1/4, et toute autre combinaison a la probabilité 0. Quelle est l'information mutuelle I(X;Y) ?
  3. Les 36 caractères formés des 26 lettres majuscules et des 10 chiffres doivent être distingués par des suites de bits toutes de même longueur (un code de longueur fixe). Quel est le nombre minimal de bits nécessaire par caractère ?
  4. Par rapport à un code de longueur fixe, quelle description d'un code de longueur variable est correcte ?
  5. Parmi les ensembles de mots de code suivants, attribués à quatre symboles, lequel est un code préfixe (code dans lequel aucun mot de code n'est le début d'un autre mot de code) ?