情報理論と符号の基礎

4つの記号A〜Dに、次の長さ(ビット数)の符号語を割り当てて、0と1からなる接頭符号を作りたい。作ることができる符号長の組み合わせはどれか。

  1. AA: 1、B: 2、C: 3、D: 3
  2. BA: 1、B: 2、C: 2、D: 3
  3. CA: 1、B: 1、C: 2、D: 3
答えと解説を見る

正解:A. A: 1、B: 2、C: 3、D: 3

符号長が l₁、l₂、… の接頭符号を作れるのは、クラフトの不等式 Σ 2^(−lᵢ) ≤ 1 が成り立つときです。1、2、3、3 では 1/2 + 1/4 + 1/8 + 1/8 = 1 なので作れ、例えば 0、10、110、111 になります。1、2、2、3 では 1/2 + 1/4 + 1/4 + 1/8 = 9/8、1、1、2、3 では 1/2 + 1/2 + 1/4 + 1/8 = 11/8 で、どちらも1を超えるので作れません。

  • A. 正しい。2^(−l) の和がちょうど1で、0、10、110、111 のように作れます。
  • B. 和が 9/8 で1を超えます。長さ1の0と長さ2の10、11で、ビット列の始まり方をすべて使い切るので、長さ3の符号語を置けません。
  • C. 和が 11/8 で1を超えます。長さ1の符号語を0と1の2つ使うと、ほかの符号語はすべて、そのどちらかで始まってしまいます。
この分野を解く 分野ページへ

情報理論と符号の基礎の参考書を探す PR

Amazonの検索結果へのリンクです。Amazonのアソシエイトとして、半導体教室は適格販売により収入を得ています。

情報理論と符号の基礎のほかの問題

  1. 0と1からなる接頭符号を作っている。長さ2の符号語 00 と 01 をすでに使っているとき、接頭符号の条件を保ったまま追加できる、長さ3の符号語の最大の個数はどれか。
  2. 記号A、B、C、Dを確率0.4、0.3、0.2、0.1で、互いに独立に出す情報源を、ハフマン符号で符号化する。1記号あたりの平均符号長はどれか。
  3. 記号A〜Eを確率0.3、0.25、0.2、0.15、0.1で、互いに独立に出す情報源を、ハフマン符号で符号化する。等しい確率のものをどちらから選ぶかで符号語は変わることがあるが、平均符号長は変わらない。1記号あたりの平均符号長はどれか。
  4. 記号A、B、Cを確率0.6、0.3、0.1で、互いに独立に出す情報源があり、そのエントロピーは約1.30ビットである。この情報源をハフマン符号で符号化したときの効率(エントロピー ÷ 平均符号長)に最も近いものはどれか。
  5. 0を確率0.8、1を確率0.2で、互いに独立に出す2値の情報源がある。2記号ずつまとめた00、01、10、11の4種類をそれぞれ1つの記号とみなし、ハフマン符号で符号化する。元の1記号あたりの平均符号長はどれか。