컴퓨터 산술
값의 범위가 −6.35~6.35인 데이터를 0을 중심으로 한 대칭 INT8(−127~127)로 양자화합니다. 스케일을 「최대 절댓값 ÷ 127」로 하면 1.0은 어떤 정수로 나타내집니까?
- A1
- B127
- C20
정답과 해설 보기
정답: C. 20
스케일은 6.35 ÷ 127 = 0.05이며, 정수 1이 실수 0.05에 해당합니다. 실수 값을 정수로 만들려면 스케일로 나눈 뒤 가장 가까운 정수로 반올림하므로 1.0 ÷ 0.05 = 20이 됩니다. 원래대로 되돌릴 때는 20 × 0.05 = 1.0입니다. 1은 실수 값을 그대로 정수로 만든 오류이고, 127은 최댓값 6.35에 대응하는 정수입니다. 범위의 이상치(outlier)가 크면 스케일이 거칠어져 정밀도가 떨어지므로, 최댓값을 정하는 방법(캘리브레이션)이 중요합니다.