Was ist KI-Compiler?

Software, die den Berechnungsgraphen eines Modells analysiert, Fusion, Datenlayout und Kachelung optimiert und Code für die Zielhardware erzeugt, etwa XLA und TVM.

Japanische Bezeichnung: AIコンパイラ

Fachgebiet: KI-Hardware und Software-Stack

Verwandte Begriffe

All-Reduce Arithmetische Intensität Attention-Mechanismus Backpropagation (Fehlerrückführung) Batchgröße Berechnungsgraph Datenparallelität FlashAttention Gradient Checkpointing Inferenz-Laufzeitumgebung (Inference Runtime)

Zurück zum Glossar