NaNとは
なん
Not a Numberの略で、0 ÷ 0 や負の数の平方根など、結果が数として定まらない演算で生じる浮動小数点の特殊値。指数部がすべて1で仮数が0でない値で表し、NaN どうしを比べても等しくならない。
この用語の分野: 計算機算術
解説の中の「NaN」
IEEE 754では、NaNは「数ではない」値なので、どんな値との比較でも等しくならず、NaN自身との比較でも x == x は偽になります(x != x は真)。
x がNaNのとき、多くのプログラミング言語で x == x を評価した結果はどれか。指数部の0とすべて1(255)は、非正規化数や無限大・NaNのために予約されています。
IEEE 754の単精度で、指数部に記録される値が130のとき、実際の指数(2の何乗か)はいくつか。なお0 ÷ 0 は値が定まらないのでNaNになります。
IEEE 754の浮動小数点数の演算で、正の数を0で割ったときの結果として規格で定められているものはどれか。
「NaN」が出てくる問題(6問)
- x がNaNのとき、多くのプログラミング言語で x == x を評価した結果はどれか。
- IEEE 754の単精度で、指数部に記録される値が130のとき、実際の指数(2の何乗か)はいくつか。
- IEEE 754の浮動小数点数の演算で、正の数を0で割ったときの結果として規格で定められているものはどれか。
- IEEE 754の単精度で、指数部がすべて1(255)のビット列が表すものの説明として正しいものはどれか。
- 単精度の浮動小数点数で、1億(10⁸)に1を足しても結果が1億のまま変わらない。この現象の説明として正しいものはどれか。
- FP16(符号1・指数部5ビット(バイアス15)・仮数10ビット)で表せる最大の有限の値はいくらか。
関連する用語
IEEE 754 指数部 仮数 非正規化数 情報落ち INT8 ウォレスツリー FMA(融合積和演算) FP8 桁上げ先見加算器