マシンイプシロンとは
ましんいぷしろん
1と、1の次に大きい表せる浮動小数点数との差。浮動小数点の相対的な精度の目安で、単精度では2⁻²³(約1.19 × 10⁻⁷)、倍精度では2⁻⁵²(約2.2 × 10⁻¹⁶)。
この用語の分野: 計算機算術
解説の中の「マシンイプシロン」
その差の 2⁻²³ ≈ 1.19 × 10⁻⁷ がマシンイプシロンで、単精度の相対的な精度がおよそ7桁であることを表します。
IEEE 754の単精度のマシンイプシロン(1と、1の次に大きい表せる数との差)はいくらか。
「マシンイプシロン」が出てくる問題(1問)
関連する用語
IEEE 754 仮数 指数部 INT8 ウォレスツリー FMA(融合積和演算) FP8 桁上げ先見加算器 桁上げ保存加算器 桁落ち