計算機算術
IEEE 754の単精度のマシンイプシロン(1と、1の次に大きい表せる数との差)はいくらか。
- A2⁻²³(約1.19 × 10⁻⁷)
- B2⁻⁸(約3.9 × 10⁻³)
- C2⁻⁵²(約2.2 × 10⁻¹⁶)
答えと解説を見る
正解：A. 2⁻²³(約1.19 × 10⁻⁷)
1.0 は 1.000…0 × 2⁰ と表され、仮数は23ビットなので、仮数の最下位ビットを1つ増やした次の数は 1 + 2⁻²³ です。その差の 2⁻²³ ≈ 1.19 × 10⁻⁷ がマシンイプシロンで、単精度の相対的な精度がおよそ7桁であることを表します。2⁻⁵²は仮数52ビットの倍精度のマシンイプシロンです。2⁻⁸は指数部のビット数と混同した値です。この値は、浮動小数点数の比較の許容値を決める目安にも使われます。
- A. 正しい。仮数23ビットなので2⁻²³です。
- B. 2⁻⁸は指数部の8ビットと混同した値です。
- C. 2⁻⁵²は倍精度のマシンイプシロンです。