MFUとは
えむえふゆー
Model FLOPs Utilizationの略。モデルに必要な演算の数から求めた実際の演算性能が、ハードウェアのピーク性能の何%にあたるかを示す指標。
この用語の分野: AIハードウェアとソフトウェアスタック
解説の中の「MFU」
MFUは、1秒あたりに処理したトークンの数とモデルに必要な演算の数から実際に行った有用な計算の速さを求め、それをGPUのピーク性能で割った値です。
大規模な学習の効率を表す指標のMFU(Model FLOPs Utilization)の説明として正しいものはどれか。
「MFU」が出てくる問題(1問)
関連する用語
GPU アテンション AIコンパイラ 演算強度 演算の融合 オールリデュース ONNX 学習後量子化 逆伝播 計算グラフ