Bases de la théorie de l'information et du codage
Quelle description de la relation entre la compression sans perte et l'entropie d'une source est correcte ?
- AAvec un algorithme de compression sans perte suffisamment performant, n'importe quel fichier, quel que soit son contenu, peut toujours être rendu plus petit que l'original
- BMême pour une source qui émet des symboles indépendamment, un code sans perte habilement conçu peut rendre la longueur moyenne de code inférieure à l'entropie
- CLa longueur moyenne de code d'un code sans perte ne peut pas être rendue inférieure à l'entropie, mais coder les symboles par groupes l'en rapproche
Afficher la réponse et l'explication
Réponse : C. La longueur moyenne de code d'un code sans perte ne peut pas être rendue inférieure à l'entropie, mais coder les symboles par groupes l'en rapproche
Pour une source qui émet des symboles indépendamment, la longueur moyenne de code par symbole d'un code sans perte est au moins égale à l'entropie, et coder les symboles par groupes l'en rapproche autant qu'on veut (théorème du codage de source). De plus, il existe 2ⁿ fichiers de n bits, mais seulement 2ⁿ − 1 suites de bits plus courtes au total : aucune compression sans perte ne peut donc raccourcir tous les fichiers. La compression sans perte raccourcit les données qui présentent un déséquilibre ou des répétitions, au prix d'un léger allongement des autres données.
Continuer : 9 autres questions sur Bases de la théorie de l'information et du codage