Nederlands
Menu

Basis van informatietheorie en codering

Twee stochastische variabelen X (waarde 0 of 1) en Y (waarde a, b of c) hebben de gezamenlijke kansen P(0, a) = P(0, b) = P(1, b) = P(1, c) = 1/4, en elke andere combinatie heeft kans 0. Wat is de wederzijdse informatie I(X;Y)?

  1. A0,5 bit
  2. B1 bit
  3. C1,5 bit
Antwoord en toelichting tonen

Antwoord: A. 0,5 bit

X is 0 of 1 met elk kans 1/2, dus H(X) = 1 bit; Y is a met kans 1/4, b met kans 1/2 en c met kans 1/4, dus H(Y) = 1,5 bit. De vier paren hebben elk kans 1/4, dus H(X, Y) = 2 bit, en I(X;Y) = H(X) + H(Y) − H(X, Y) = 1 + 1,5 − 2 = 0,5 bit. Is Y gelijk aan a of c, dan is de waarde van X bekend, en is Y gelijk aan b, dan niet; Y geeft dus een deel van de informatie over X.

Dit onderwerp oefenen Naar de onderwerppagina

Meer vragen over Basis van informatietheorie en codering

  1. De 36 tekens die bestaan uit de 26 hoofdletters en de 10 cijfers moeten worden onderscheiden met bitreeksen die allemaal even lang zijn (een code met vaste lengte). Wat is het minimale aantal bits dat per teken nodig is?
  2. Welke beschrijving van een code met variabele lengte, vergeleken met een code met vaste lengte, is juist?
  3. Welke van de volgende verzamelingen codewoorden voor vier symbolen is een prefixcode (een code waarin geen enkel codewoord het begin van een ander codewoord is)?
  4. Een prefixcode kent de codewoorden A = 0, B = 10, C = 110 en D = 111 toe aan de symbolen A, B, C en D. Wat is het resultaat als de bitreeks 110100111 vanaf het begin wordt gedecodeerd?
  5. Aan de vier symbolen A tot D moeten codewoorden met de volgende lengtes (aantallen bits) worden toegekend om een binaire prefixcode te maken. Met welke combinatie van codelengtes is dat mogelijk?