Was ist Operatorfusion?

Eine Optimierung, die mehrere Operationen in einem Kernel zusammenfasst und so vermeidet, Zwischenergebnisse in den Speicher zu schreiben und wieder zu lesen.

Japanische Bezeichnung: 演算の融合

Fachgebiet: KI-Hardware und Software-Stack

Verwandte Begriffe

All-Reduce Arithmetische Intensität Attention-Mechanismus Backpropagation (Fehlerrückführung) Batchgröße Berechnungsgraph Datenparallelität FlashAttention Gradient Checkpointing Inferenz-Laufzeitumgebung (Inference Runtime)

Zurück zum Glossar