한국어
메뉴

정보 이론과 부호의 기초

기호 A, B, C를 확률 0.6, 0.3, 0.1로 서로 독립적으로 내는 정보원이 있으며, 그 엔트로피는 약 1.30비트이다. 이 정보원을 허프만 부호로 부호화했을 때의 효율(엔트로피 ÷ 평균 부호 길이)에 가장 가까운 것은?

  1. A약 65%
  2. B70%
  3. C약 93%
정답과 해설 보기

정답: C. 약 93%

허프만 부호에서는 0.1과 0.3을 묶어 0.4, 다음으로 0.4와 0.6을 묶으므로, 부호 길이는 A가 1, B와 C가 2비트입니다. 평균 부호 길이는 0.6 × 1 + 0.3 × 2 + 0.1 × 2 = 1.4비트이고, 효율은 1.30 ÷ 1.4 ≈ 0.93, 즉 약 93%입니다. 나머지 약 7%는 부호 길이가 정수 비트로 제한되기 때문에 생기는 낭비입니다.

이 분야 연습하기 분야로 돌아가기

정보 이론과 부호의 기초의 다른 문제

  1. 0을 확률 0.8, 1을 확률 0.2로 서로 독립적으로 내는 이진 정보원이 있다. 2기호씩 묶은 00, 01, 10, 11의 4종류를 각각 하나의 기호로 보고 허프만 부호로 부호화한다. 원래의 1기호당 평균 부호 길이는?
  2. 무손실 압축과 정보원의 엔트로피의 관계에 대한 설명으로 올바른 것은?
  3. 40문자의 문자열 AAAAAAAAAAAABBBBCCCCCCCCCCCCCCCCCCCCDDDD(A가 12개, B가 4개, C가 20개, D가 4개)를, 같은 문자의 연속을 '문자(1바이트)와 개수(1바이트)'의 쌍으로 나타내는 런 렝스 부호화로 압축한다. 원래 문자열은 1문자 1바이트로 하고, 압축률을 '압축 후의 크기 ÷ 압축 전의 크기'로 할 때 압축률은?
  4. 런 렝스 부호화로 압축했을 때 크기를 가장 작게 하기 쉬운 데이터는?
  5. ZIP이나 gzip 등에서 사용되는 LZ77 방식의 개념으로 올바른 것은?