Basis van informatietheorie en codering
Stel dat de informatie-inhoud die men krijgt wanneer men hoort dat een gebeurtenis met kans p heeft plaatsgevonden, −log₂ p bit is. Wat is de informatie-inhoud die men krijgt wanneer men hoort dat een gebeurtenis met kans 1/8 heeft plaatsgevonden?
- A0,125 bit
- B0,375 bit
- C3 bit
Antwoord en toelichting tonen
Antwoord: C. 3 bit
De informatie-inhoud is −log₂(1/8) = log₂ 8 = 3 bit. Omdat 1/8 = 1/2³, is dit evenveel informatie als drie keer na elkaar het antwoord horen op een vraag met „twee mogelijkheden” die elk kans 1/2 hebben. Hoe minder waarschijnlijk een gebeurtenis is, hoe groter de informatie-inhoud wanneer men hoort dat ze heeft plaatsgevonden.
Verder: nog 9 vragen over Basis van informatietheorie en codering