컴퓨터 산술

IEEE 754 단정밀도의 머신 엡실론(1과, 1 다음으로 큰 표현 가능한 수와의 차)은 얼마입니까?

  1. A2⁻²³(약 1.19 × 10⁻⁷)
  2. B2⁻⁸(약 3.9 × 10⁻³)
  3. C2⁻⁵²(약 2.2 × 10⁻¹⁶)
정답과 해설 보기

정답: A. 2⁻²³(약 1.19 × 10⁻⁷)

1.0은 1.000…0 × 2⁰으로 표현되고 가수는 23비트이므로, 가수의 최하위 비트를 하나 늘린 다음 수는 1 + 2⁻²³입니다. 그 차인 2⁻²³ ≈ 1.19 × 10⁻⁷이 머신 엡실론이며, 단정밀도의 상대적 정밀도가 약 7자리임을 나타냅니다. 2⁻⁵²는 가수 52비트인 배정밀도의 머신 엡실론입니다. 2⁻⁸은 지수부의 비트 수와 혼동한 값입니다. 이 값은 부동소수점수 비교의 허용값을 정하는 기준으로도 사용됩니다.

이 분야 연습하기 분야로 돌아가기

컴퓨터 산술의 다른 문제

  1. 단정밀도와 배정밀도 부동소수점수에서 신뢰할 수 있는 10진수 유효 자릿수의 기준 조합으로 올바른 것은 무엇입니까?
  2. IEEE 754 비정규화수(서브노멀 수)의 역할로 올바른 것은 무엇입니까?
  3. 비정규화수를 많이 포함하는 계산에서 일부 프로세서는 처리가 크게 느려질 수 있습니다. 그래서 성능을 우선하는 상황에서 사용되는 설정은 무엇입니까?
  4. IEEE 754 부동소수점수 연산에서 양수를 0으로 나눴을 때의 결과로 규격에 정해진 것은 무엇입니까?
  5. x가 NaN일 때, 많은 프로그래밍 언어에서 x == x를 평가한 결과는 무엇입니까?