Basis van informatietheorie en codering

Welke uitspraak geeft de inhoud van de kanaalcoderingsstelling van Shannon juist weer?

  1. AAls de transmissiesnelheid onder de kanaalcapaciteit ligt, kan geschikte codering de foutkans willekeurig klein maken
  2. BMet voldoende sterke foutcorrigerende codes kan de foutkans willekeurig klein worden gemaakt, zelfs bij snelheden boven de kanaalcapaciteit
  3. COp een kanaal met ruis kan de foutkans alleen dicht bij 0 worden gebracht door ook de transmissiesnelheid dicht bij 0 te brengen
Antwoord en toelichting tonen

Antwoord: A. Als de transmissiesnelheid onder de kanaalcapaciteit ligt, kan geschikte codering de foutkans willekeurig klein maken

De kanaalcoderingsstelling toont aan dat bij elke snelheid onder de kanaalcapaciteit C de foutkans willekeurig klein kan worden gemaakt door voldoende lange codes te gebruiken, en dat dit bij snelheden boven C onmogelijk is. De stelling toont aan dat zulke codes bestaan, maar geeft geen concrete manier om ze te construeren. Tegenwoordig worden codes waarvan de prestaties deze grens (de Shannon-limiet) benaderen, zoals LDPC-codes en polaire codes, in de praktijk gebruikt.

Dit onderwerp oefenen Naar de onderwerppagina

Meer vragen over Basis van informatietheorie en codering

  1. Om een Gray-code om te zetten in een gewoon binair getal wordt de meest significante bit ongewijzigd overgenomen, en wordt elke lagere bit gevonden als de exclusieve OF van de binaire bit die al op de positie één hoger is gevonden en de bit van de Gray-code op dezelfde positie. Wat is de 4-bits Gray-code 1101, omgezet naar een binair getal?
  2. Stel dat de informatie-inhoud die men krijgt wanneer men hoort dat een gebeurtenis met kans p heeft plaatsgevonden, −log₂ p bit is. Wat is de informatie-inhoud die men krijgt wanneer men hoort dat een gebeurtenis met kans 1/8 heeft plaatsgevonden?
  3. Welke uitspraak over de eigenschappen van de informatie-inhoud (−log₂ p wanneer men hoort dat een gebeurtenis met kans p heeft plaatsgevonden) is juist?
  4. Een bron zendt de symbolen A, B, C en D onafhankelijk van elkaar uit met kansen 1/2, 1/4, 1/8 en 1/8. Wat is de entropie (de gemiddelde informatie-inhoud per symbool) van deze bron?
  5. Welke combinatie van de maximale entropie van een bron die 8 soorten symbolen uitzendt en de voorwaarde waaronder dat maximum wordt bereikt, is juist?