Grundlagen der Informationstheorie und Kodierung
Welche Aussage über die bedingte Entropie H(X|Y) und die Transinformation I(X;Y) zweier Zufallsvariablen X und Y ist richtig?
- AKennt man den Wert von Y, kann H(X|Y), das die Unsicherheit über X ausdrückt, im Mittel größer als H(X) werden
- BDie Transinformation I(X;Y) ist maximal, wenn X und Y voneinander unabhängig sind, und beträgt dann H(X) + H(Y)
- CI(X;Y) = H(X) − H(X|Y) ist der Betrag, um den die Unsicherheit über X durch Kenntnis von Y abnimmt, und ist bei Unabhängigkeit 0
Antwort und Erläuterung anzeigen
Antwort: C. I(X;Y) = H(X) − H(X|Y) ist der Betrag, um den die Unsicherheit über X durch Kenntnis von Y abnimmt, und ist bei Unabhängigkeit 0
H(X|Y) ist die mittlere Unsicherheit über X, die bleibt, wenn der Wert von Y bekannt ist; durch Kenntnis von Y nimmt die mittlere Unsicherheit nie zu, und es gilt H(X|Y) ≤ H(X). Die Abnahme ist die Transinformation I(X;Y) = H(X) − H(X|Y) = H(X) + H(Y) − H(X, Y); sind X und Y unabhängig, verrät Y nichts über X, und sie ist 0. In der Kommunikation entspricht I(X;Y), wenn X das gesendete und Y das empfangene Symbol ist, dem Informationsgehalt, der pro Übertragung tatsächlich übermittelt wird.
Weiter: 9 weitere Fragen zu Grundlagen der Informationstheorie und Kodierung