Was ist Modell-FLOPs-Auslastung (MFU)?
Der Prozentsatz der Hardware-Spitzenleistung, der erreicht wird, berechnet aus den von einem Modell tatsächlich benötigten Operationen.
Japanische Bezeichnung: MFU
Fachgebiet: KI-Hardware und Software-Stack
Verwandte Begriffe
All-Reduce Arithmetische Intensität Attention-Mechanismus Backpropagation (Fehlerrückführung) Batchgröße Berechnungsgraph Datenparallelität FlashAttention Gradient Checkpointing Inferenz-Laufzeitumgebung (Inference Runtime)