정보 이론과 부호의 기초

섀넌의 채널 부호화 정리의 내용으로 올바른 것은?

  1. A전송 속도가 채널 용량보다 작으면, 적절한 부호화로 오류율을 얼마든지 작게 할 수 있다
  2. B오류 정정 부호를 강하게 하면, 채널 용량을 넘는 속도에서도 오류율을 얼마든지 작게 할 수 있다
  3. C잡음이 있는 채널에서 오류율을 0에 가깝게 하려면, 전송 속도도 0에 가깝게 할 수밖에 없다
정답과 해설 보기

정답: A. 전송 속도가 채널 용량보다 작으면, 적절한 부호화로 오류율을 얼마든지 작게 할 수 있다

채널 부호화 정리는 채널 용량 C보다 작은 속도라면 충분히 긴 부호를 사용함으로써 오류율을 얼마든지 작게 할 수 있고, C를 넘는 속도에서는 그것이 불가능하다는 것을 보여 줍니다. 정리는 그러한 부호가 존재한다는 것을 보여 주지만, 구체적인 구성 방법까지는 보여 주지 않습니다. 현재는 LDPC 부호나 폴라 부호 등 이 한계(섀넌 한계)에 가까운 성능의 부호가 실용화되어 있습니다.

이 분야 연습하기 분야로 돌아가기

정보 이론과 부호의 기초의 다른 문제

  1. 그레이 코드를 일반 2진수로 바꾸려면, 최상위 비트는 그대로 사용하고, 그보다 하위 비트는 한 자리 위에서 구한 2진수의 비트와 같은 위치의 그레이 코드 비트의 배타적 논리합으로 구한다. 4비트 그레이 코드 1101을 2진수로 바꾼 것은?
  2. 사건의 확률을 p라 할 때, 그 사건이 일어났다는 사실을 전달받아 얻는 정보량을 −log₂ p 비트로 한다. 확률 1/8로 일어나는 사건이 일어났다는 사실을 전달받았을 때의 정보량은?
  3. 정보량(확률 p인 사건이 일어났다는 사실을 전달받았을 때의 −log₂ p)의 성질로 올바른 것은?
  4. 기호 A, B, C, D를 각각 확률 1/2, 1/4, 1/8, 1/8로 서로 독립적으로 내는 정보원이 있다. 이 정보원의 엔트로피(1기호당 평균 정보량)는?
  5. 8종류의 기호를 내는 정보원의 엔트로피의 최댓값과, 최대가 되는 조건의 조합으로 올바른 것은?