計算機算術

IEEE 754の単精度の浮動小数点数で、0から始めてすべての整数を正確に表せる上限はどれか。

  1. A2²³ = 8388608
  2. B2²⁴ = 16777216
  3. C2³¹ = 2147483648
答えと解説を見る

正解:B. 2²⁴ = 16777216

単精度の仮数は、隠れビットを含めて24ビットの精度があるので、2²⁴ = 16777216 までのすべての整数を正確に表せます。それを超えると、表せる値の間隔が2になり、16777217 は表せずに 16777216 に丸められます。そのため、単精度の変数でカウンタを数えると、この値で増えなくなります。2²³は隠れビットを数え忘れた値、2³¹は32ビットの整数の範囲と混同した値です。倍精度なら 2⁵³ まで正確に表せます。

  • A. 2²³は隠れビットを数え忘れた値です。
  • B. 正しい。24ビットの精度で、2²⁴までの整数を正確に表せます。
  • C. 2³¹は32ビットの整数の範囲と混同した値です。
この分野を解く 分野ページへ

計算機算術のほかの問題

  1. 金額の計算で、2進数の浮動小数点数ではなく、最小の単位(1円や1セント)を1とする整数で扱うことが多い主な理由はどれか。
  2. AIの混合精度の学習で、計算の多くをFP16やbfloat16で行いながら、重みの元の値(マスターウェイト)をFP32で保持しておく主な理由はどれか。
  3. 8ビットのうち下位4ビットを小数部とする固定小数点(符号なし)で、ビット列 0011 1000 が表す値はいくらか。
  4. IEEE 754の浮動小数点数を構成する3つの部分の組み合わせとして正しいものはどれか。
  5. IEEE 754の単精度(32ビット)の浮動小数点数で、符号・指数部・仮数に割り当てられるビット数の組み合わせはどれか。