FP8란?

えふぴーはち

8ビットの浮動小数点の形式。指数4ビット・仮数3ビットのE4M3と、指数5ビット・仮数2ビットのE5M2があり、精度と範囲を使い分ける。AIの学習や推論を速く、省電力にするために使われる。

일본어 명칭: FP8

분야: 컴퓨터 산술

관련 용어

仮数 固定小数点 非正規化数 算術シフト 情報落ち 指数部 最近接偶数丸め 飽和演算 桁落ち 桁上げ保存加算器

용어집으로 돌아가기