In een binair symmetrisch kanaal worden 0 en 1 verzonden, en elke bit slaat onafhankelijk om met kans 0,1. Met de binaire entropie H(p) = −p log₂ p − (1 − p) log₂(1 − p) geldt H(0,1) ≈ 0,469. Welke waarde ligt het dichtst bij de kanaalcapaciteit van dit kanaal per overdracht?

Antwoord: B. Ongeveer 0,53 bit

Voor een binair symmetrisch kanaal is de kanaalcapaciteit C = 1 − H(p); dat is de waarde van de wederzijdse informatie wanneer 0 en 1 met gelijke kans worden verzonden. Voor p = 0,1 is C ≈ 1 − 0,469 = 0,531, ongeveer 0,53 bit per overdracht. Met een geschikte foutcorrigerende code kunnen gegevens tot deze verhouding worden verzonden met een willekeurig kleine foutkans. Bij p = 0,5 hangt de ontvangen waarde niet af van de verzonden waarde, en is de capaciteit 0.