計算機算術
IEEE 754の単精度の浮動小数点数で、0から始めてすべての整数を正確に表せる上限はどれか。
- A2²³ = 8388608
- B2²⁴ = 16777216
- C2³¹ = 2147483648
答えと解説を見る
正解:B. 2²⁴ = 16777216
単精度の仮数は、隠れビットを含めて24ビットの精度があるので、2²⁴ = 16777216 までのすべての整数を正確に表せます。それを超えると、表せる値の間隔が2になり、16777217 は表せずに 16777216 に丸められます。そのため、単精度の変数でカウンタを数えると、この値で増えなくなります。2²³は隠れビットを数え忘れた値、2³¹は32ビットの整数の範囲と混同した値です。倍精度なら 2⁵³ まで正確に表せます。
- A. 2²³は隠れビットを数え忘れた値です。
- B. 正しい。24ビットの精度で、2²⁴までの整数を正確に表せます。
- C. 2³¹は32ビットの整数の範囲と混同した値です。