컴퓨터 산술

단정밀도와 배정밀도 부동소수점수에서 신뢰할 수 있는 10진수 유효 자릿수의 기준 조합으로 올바른 것은 무엇입니까?

  1. A단정밀도는 약 3자리, 배정밀도는 약 7자리
  2. B단정밀도는 약 7자리, 배정밀도는 약 15~16자리
  3. C단정밀도는 약 32자리, 배정밀도는 약 64자리
정답과 해설 보기

정답: B. 단정밀도는 약 7자리, 배정밀도는 약 15~16자리

유효 자릿수는 가수의 정밀도로 정해집니다. 단정밀도는 맨 앞의 1을 포함해 24비트이고 2²⁴ ≈ 1.7 × 10⁷이므로 10진수로 약 7자리, 배정밀도는 53비트이고 2⁵³ ≈ 9 × 10¹⁵이므로 약 15~16자리입니다. 예를 들어 단정밀도로 123456789를 나타내면 123456792가 되어 하위 자릿수를 유지하지 못합니다. 32자리나 64자리는 전체 비트 수를 그대로 10진수 자릿수로 착각한 오류입니다. 약 3자리는 반정밀도 정도의 정밀도에 가까운 값입니다.

이 분야 연습하기 분야로 돌아가기

컴퓨터 산술의 다른 문제

  1. IEEE 754 비정규화수(서브노멀 수)의 역할로 올바른 것은 무엇입니까?
  2. 비정규화수를 많이 포함하는 계산에서 일부 프로세서는 처리가 크게 느려질 수 있습니다. 그래서 성능을 우선하는 상황에서 사용되는 설정은 무엇입니까?
  3. IEEE 754 부동소수점수 연산에서 양수를 0으로 나눴을 때의 결과로 규격에 정해진 것은 무엇입니까?
  4. x가 NaN일 때, 많은 프로그래밍 언어에서 x == x를 평가한 결과는 무엇입니까?
  5. IEEE 754 단정밀도에서 지수부가 모두 1(255)인 비트열이 나타내는 것의 설명으로 올바른 것은 무엇입니까?