컴퓨터 산술

값의 범위가 −6.35~6.35인 데이터를 0을 중심으로 한 대칭 INT8(−127~127)로 양자화합니다. 스케일을 「최대 절댓값 ÷ 127」로 하면 1.0은 어떤 정수로 나타내집니까?

  1. A1
  2. B127
  3. C20
정답과 해설 보기

정답: C. 20

스케일은 6.35 ÷ 127 = 0.05이며, 정수 1이 실수 0.05에 해당합니다. 실수 값을 정수로 만들려면 스케일로 나눈 뒤 가장 가까운 정수로 반올림하므로 1.0 ÷ 0.05 = 20이 됩니다. 원래대로 되돌릴 때는 20 × 0.05 = 1.0입니다. 1은 실수 값을 그대로 정수로 만든 오류이고, 127은 최댓값 6.35에 대응하는 정수입니다. 범위의 이상치(outlier)가 크면 스케일이 거칠어져 정밀도가 떨어지므로, 최댓값을 정하는 방법(캘리브레이션)이 중요합니다.

이 분야 연습하기 분야로 돌아가기

컴퓨터 산술의 다른 문제

  1. 소형 마이컴이나 DSP에서 부동소수점이 아니라 고정소수점 연산이 자주 사용되는 주된 이유는 무엇입니까?
  2. 16비트 부호 있는 고정소수점의 Q15 형식(소수부 15비트)으로 나타낼 수 있는 값의 간격(분해능)과 범위의 조합으로 올바른 것은 무엇입니까?
  3. 소수부 8비트의 고정소수점수끼리를 정수 곱셈기로 곱했을 때 결과의 처리로 올바른 것은 무엇입니까?
  4. 신호 처리에서 사용되는 포화 연산의 설명으로 올바른 것은 무엇입니까?
  5. 캐리 룩어헤드 가산기에서 사용하는 각 자리의 생성 신호 g와 전파 신호 p의 정의(a, b는 그 자리의 입력)와, 윗자리로의 올림 c(i+1)의 식의 조합으로 올바른 것은 무엇입니까?