컴퓨터 산술

FP16(부호 1·지수부 5비트(바이어스 15)·가수 10비트)으로 나타낼 수 있는 최대 유한값은 얼마입니까?

  1. A32768
  2. B65536
  3. C65504
정답과 해설 보기

정답: C. 65504

지수부의 모두 1(31)은 무한대와 NaN에 사용되므로 최대 지수부는 30이고, 실제 지수는 30 − 15 = 15입니다. 가수가 모두 1일 때 값은 (1 + 1 − 2⁻¹⁰) × 2¹⁵ = (2 − 2⁻¹⁰) × 32768 = 65536 − 32 = 65504가 됩니다. 이를 넘는 결과는 무한대가 되므로 FP16 학습에서는 오버플로에도 주의해야 합니다. 32768은 가수가 0일 때의 2¹⁵, 65536은 2¹⁶으로 둘 다 최댓값이 아닙니다.

이 분야 연습하기 분야로 돌아가기

컴퓨터 산술의 다른 문제

  1. FP8의 두 형식인 E4M3(지수부 4·가수 3비트)와 E5M2(지수부 5·가수 2비트)의 구분 사용으로 일반적인 것은 무엇입니까?
  2. AI 추론에서 가중치를 FP32에서 INT8로 변환(양자화)하는 주된 이점은 무엇입니까?
  3. 값의 범위가 −6.35~6.35인 데이터를 0을 중심으로 한 대칭 INT8(−127~127)로 양자화합니다. 스케일을 「최대 절댓값 ÷ 127」로 하면 1.0은 어떤 정수로 나타내집니까?
  4. 소형 마이컴이나 DSP에서 부동소수점이 아니라 고정소수점 연산이 자주 사용되는 주된 이유는 무엇입니까?
  5. 16비트 부호 있는 고정소수점의 Q15 형식(소수부 15비트)으로 나타낼 수 있는 값의 간격(분해능)과 범위의 조합으로 올바른 것은 무엇입니까?