FP8란?
えふぴーはち
8ビットの浮動小数点の形式。指数4ビット・仮数3ビットのE4M3と、指数5ビット・仮数2ビットのE5M2があり、精度と範囲を使い分ける。AIの学習や推論を速く、省電力にするために使われる。
일본어 명칭: FP8
분야: 컴퓨터 산술
えふぴーはち
8ビットの浮動小数点の形式。指数4ビット・仮数3ビットのE4M3と、指数5ビット・仮数2ビットのE5M2があり、精度と範囲を使い分ける。AIの学習や推論を速く、省電力にするために使われる。
일본어 명칭: FP8
분야: 컴퓨터 산술