最近接偶数丸めとは
さいきんせつぐうすうまるめ
表せる値のうち最も近いものに丸め、ちょうど中間のときは最下位のビットが偶数(0)になる方に丸める方法。IEEE 754の既定の丸めで、丸め誤差が一方向にかたよらない。
この用語の分野: 計算機算術
さいきんせつぐうすうまるめ
表せる値のうち最も近いものに丸め、ちょうど中間のときは最下位のビットが偶数(0)になる方に丸める方法。IEEE 754の既定の丸めで、丸め誤差が一方向にかたよらない。
この用語の分野: 計算機算術
IEEE 754の既定の丸めは、表せる値のうち最も近いものに丸め、ちょうど中間のときは最下位のビットが0(偶数)になる方を選ぶ最近接偶数丸めです。
IEEE 754で既定の丸めの方法として定められているものはどれか。IEEE 754 INT8 ウォレスツリー FMA(融合積和演算) FP8 仮数 桁上げ先見加算器 桁上げ保存加算器 桁落ち 固定小数点