飽和演算とは
ほうわえんざん
計算結果が表せる範囲を超えたとき、桁あふれで反対側の値に回り込ませず、最大値または最小値にとどめる演算。音声や画像の信号処理で、大きな誤差を防ぐために使われる。
この用語の分野: 計算機算術
解説の中の「飽和演算」
飽和演算では、最大値を超えたら最大値(127)、最小値を下回ったら最小値(−128)にとどめるので、誤差が小さく抑えられます。
信号処理で使われる飽和演算の説明として正しいものはどれか。
「飽和演算」が出てくる問題(1問)
関連する用語
SIMD IEEE 754 INT8 ウォレスツリー FMA(融合積和演算) FP8 仮数 桁上げ先見加算器 桁上げ保存加算器 桁落ち