桁落ちとは
けたおち
ほぼ等しい2つの数を引き算したとき、上位の桁が打ち消し合って有効な桁が大きく減る現象。もとの数に含まれていた丸め誤差の割合が相対的に大きくなる。計算式を変形して避ける。
この用語の分野: 計算機算術
解説の中の「桁落ち」
これが桁落ちで、計算式を変形して近い数どうしの引き算を避けるのが対策です。
ほぼ等しい2つの浮動小数点数を引き算したとき、有効な桁が大きく減ってしまう現象を何と呼ぶか。
「桁落ち」が出てくる問題(2問)
関連する用語
情報落ち IEEE 754 INT8 ウォレスツリー FMA(融合積和演算) FP8 仮数 桁上げ先見加算器 桁上げ保存加算器 固定小数点