Deutsch
Menü

Grundlagen der Informationstheorie und Kodierung

Welche Aussage beschreibt den Inhalt des Kanalkodierungstheorems von Shannon richtig?

  1. AIst die Übertragungsrate kleiner als die Kanalkapazität, lässt sich die Fehlerrate durch geeignete Kodierung beliebig klein machen
  2. BMit einem stärkeren Fehlerkorrekturcode lässt sich die Fehlerrate auch bei Raten oberhalb der Kanalkapazität beliebig klein machen
  3. CUm die Fehlerrate auf einem verrauschten Kanal gegen 0 gehen zu lassen, muss auch die Übertragungsrate gegen 0 gehen
Antwort und Erläuterung anzeigen

Antwort: A. Ist die Übertragungsrate kleiner als die Kanalkapazität, lässt sich die Fehlerrate durch geeignete Kodierung beliebig klein machen

Das Kanalkodierungstheorem besagt, dass sich bei Raten unterhalb der Kanalkapazität C die Fehlerrate mit hinreichend langen Codes beliebig klein machen lässt und dass dies bei Raten oberhalb von C nicht möglich ist. Das Theorem zeigt, dass solche Codes existieren, gibt aber nicht an, wie man sie konkret konstruiert. Heute sind Codes im praktischen Einsatz, deren Leistung nahe an diese Grenze (die Shannon-Grenze) heranreicht, etwa LDPC-Codes und Polar-Codes.

Dieses Thema üben Zur Themenseite

Weitere Fragen zu Grundlagen der Informationstheorie und Kodierung

  1. Um einen Gray-Code in eine gewöhnliche Binärzahl umzuwandeln, wird das höchstwertige Bit unverändert übernommen, und jedes niedrigere Bit ergibt sich als XOR aus dem an der nächsthöheren Stelle ermittelten Binärbit und dem Gray-Code-Bit an derselben Stelle. Welche Binärzahl ergibt sich aus dem 4-Bit-Gray-Code 1101?
  2. Der Informationsgehalt, den man erhält, wenn man erfährt, dass ein Ereignis mit der Wahrscheinlichkeit p eingetreten ist, sei −log₂ p Bit. Wie groß ist der Informationsgehalt der Nachricht, dass ein Ereignis mit der Wahrscheinlichkeit 1/8 eingetreten ist?
  3. Welche Aussage über den Informationsgehalt (−log₂ p bei der Nachricht, dass ein Ereignis mit der Wahrscheinlichkeit p eingetreten ist) ist richtig?
  4. Eine Quelle gibt die Symbole A, B, C und D unabhängig voneinander mit den Wahrscheinlichkeiten 1/2, 1/4, 1/8 und 1/8 aus. Wie groß ist die Entropie dieser Quelle (der mittlere Informationsgehalt pro Symbol)?
  5. Welche Kombination aus dem Maximalwert der Entropie einer Quelle, die 8 verschiedene Symbole ausgibt, und der Bedingung, unter der er erreicht wird, ist richtig?