IEEE 754とは
あいとりぷるいーななごーよん
浮動小数点数の表し方と演算の規則を定めた国際規格。単精度(32ビット)・倍精度(64ビット)などの形式、丸めの方法、無限大やNaNなどの特殊値を定め、計算結果がコンピュータによらずそろうようにしている。
この用語の分野: 計算機算術
あいとりぷるいーななごーよん
浮動小数点数の表し方と演算の規則を定めた国際規格。単精度(32ビット)・倍精度(64ビット)などの形式、丸めの方法、無限大やNaNなどの特殊値を定め、計算結果がコンピュータによらずそろうようにしている。
この用語の分野: 計算機算術
IEEE 754では、0でない数を0で割ると、符号に応じて正または負の無限大を返すと定めています。
IEEE 754の浮動小数点数の演算で、正の数を0で割ったときの結果として規格で定められているものはどれか。IEEE 754の既定の丸めは、表せる値のうち最も近いものに丸め、ちょうど中間のときは最下位のビットが0(偶数)になる方を選ぶ最近接偶数丸めです。
IEEE 754で既定の丸めの方法として定められているものはどれか。IEEE 754では、NaNは「数ではない」値なので、どんな値との比較でも等しくならず、NaN自身との比較でも x == x は偽になります(x != x は真)。
x がNaNのとき、多くのプログラミング言語で x == x を評価した結果はどれか。仮数 指数部 非正規化数 NaN 固定小数点 マシンイプシロン 最近接偶数丸め INT8 ウォレスツリー FMA(融合積和演算)