Grundlagen der Informationstheorie und Kodierung

Welche Aussage über die bedingte Entropie H(X|Y) und die Transinformation I(X;Y) zweier Zufallsvariablen X und Y ist richtig?

  1. AKennt man den Wert von Y, kann H(X|Y), das die Unsicherheit über X ausdrückt, im Mittel größer als H(X) werden
  2. BDie Transinformation I(X;Y) ist maximal, wenn X und Y voneinander unabhängig sind, und beträgt dann H(X) + H(Y)
  3. CI(X;Y) = H(X) − H(X|Y) ist der Betrag, um den die Unsicherheit über X durch Kenntnis von Y abnimmt, und ist bei Unabhängigkeit 0
Antwort und Erläuterung anzeigen

Antwort: C. I(X;Y) = H(X) − H(X|Y) ist der Betrag, um den die Unsicherheit über X durch Kenntnis von Y abnimmt, und ist bei Unabhängigkeit 0

H(X|Y) ist die mittlere Unsicherheit über X, die bleibt, wenn der Wert von Y bekannt ist; durch Kenntnis von Y nimmt die mittlere Unsicherheit nie zu, und es gilt H(X|Y) ≤ H(X). Die Abnahme ist die Transinformation I(X;Y) = H(X) − H(X|Y) = H(X) + H(Y) − H(X, Y); sind X und Y unabhängig, verrät Y nichts über X, und sie ist 0. In der Kommunikation entspricht I(X;Y), wenn X das gesendete und Y das empfangene Symbol ist, dem Informationsgehalt, der pro Übertragung tatsächlich übermittelt wird.

Dieses Thema üben Zur Themenseite

Weitere Fragen zu Grundlagen der Informationstheorie und Kodierung

  1. Für zwei Zufallsvariablen X (Wert 0 oder 1) und Y (Wert a, b oder c) gelten die Verbundwahrscheinlichkeiten P(0, a) = P(0, b) = P(1, b) = P(1, c) = 1/4; alle anderen Kombinationen haben die Wahrscheinlichkeit 0. Wie groß ist die Transinformation I(X;Y)?
  2. 36 Zeichen, nämlich 26 Großbuchstaben und 10 Ziffern, sollen durch Bitfolgen gleicher Länge (einen Code fester Länge) unterschieden werden. Wie viele Bit werden pro Zeichen mindestens benötigt?
  3. Welche Aussage über Codes variabler Länge im Vergleich zu Codes fester Länge ist richtig?
  4. Welche der folgenden Mengen von Codewörtern für 4 Symbole ist ein Präfixcode (ein Code, in dem kein Codewort der Anfang eines anderen Codeworts ist)?
  5. Ein Präfixcode ordnet den Symbolen A, B, C und D die Codewörter A = 0, B = 10, C = 110 und D = 111 zu. Was ergibt die Dekodierung der Bitfolge 110100111 von vorn?