FP8とは
えふぴーはち
8ビットの浮動小数点の形式。指数4ビット・仮数3ビットのE4M3と、指数5ビット・仮数2ビットのE5M2があり、精度と範囲を使い分ける。AIの学習や推論を速く、省電力にするために使われる。
この用語の分野: 計算機算術
解説の中の「FP8」
FP16やBF16、FP8、INT8などの低い精度で使うことが多く、ニューラルネットワークの学習と推論の大部分を占める行列の積を大きく速くします。
最近のGPUに搭載されているテンソルコア(行列演算ユニット)の特徴として正しいものはどれか。
「FP8」が出てくる問題(2問)
関連する用語
指数部 仮数 GPU テンソルコア INT8 推論 IEEE 754 ウォレスツリー FMA(融合積和演算) 桁上げ先見加算器