Was ist Quantisierungsbewusstes Training (Quantization-Aware Training)?

Training, das die Rundung der Quantisierung simuliert, sodass sich die Gewichte an deren Fehler anpassen und die Genauigkeit auch bei geringer Bitbreite erhalten bleibt.

Japanische Bezeichnung: 量子化を考慮した学習

Fachgebiet: KI-Hardware und Software-Stack

Verwandte Begriffe

All-Reduce Arithmetische Intensität Attention-Mechanismus Backpropagation (Fehlerrückführung) Batchgröße Berechnungsgraph Datenparallelität FlashAttention Gradient Checkpointing Inferenz-Laufzeitumgebung (Inference Runtime)

Zurück zum Glossar