計算機算術

単精度と倍精度の浮動小数点数で信頼できる10進数の有効桁数の目安の組み合わせとして正しいものはどれか。

  1. A単精度は約3桁、倍精度は約7桁
  2. B単精度は約7桁、倍精度は約15〜16桁
  3. C単精度は約32桁、倍精度は約64桁
答えと解説を見る

正解：B. 単精度は約7桁、倍精度は約15〜16桁

有効桁数は仮数の精度で決まります。単精度は先頭の1を含めて24ビットで、2²⁴ ≈ 1.7 × 10⁷ なので10進数で約7桁、倍精度は53ビットで 2⁵³ ≈ 9 × 10¹⁵ なので約15〜16桁です。たとえば単精度で 123456789 を表すと 123456792 になり、下の桁が保てません。32桁や64桁は、全体のビット数をそのまま10進数の桁数と取り違えた誤りです。約3桁は半精度程度の精度に近い値です。

  • A. 約3桁は半精度に近い精度です。
  • B. 正しい。単精度は約7桁、倍精度は約15〜16桁です。
  • C. ビット数を10進数の桁数と取り違えています。
この分野を解く 分野ページへ

計算機算術のほかの問題

  1. IEEE 754の非正規化数(サブノーマル数)の役割として正しいものはどれか。
  2. 非正規化数を多く含む計算で、一部のプロセッサでは処理が大きく遅くなることがある。そのため性能を優先する場面で使われる設定はどれか。
  3. IEEE 754の浮動小数点数の演算で、正の数を0で割ったときの結果として規格で定められているものはどれか。
  4. x がNaNのとき、多くのプログラミング言語で x == x を評価した結果はどれか。
  5. IEEE 754の単精度で、指数部がすべて1(255)のビット列が表すものの説明として正しいものはどれか。