Was ist Quantisierung nach dem Training (Post-Training Quantization)?

Umwandlung der Gewichte und Aktivierungen eines trainierten Modells in geringere Genauigkeit, nachdem die Wertebereiche anhand repräsentativer Daten untersucht wurden.

Japanische Bezeichnung: 学習後量子化

Fachgebiet: KI-Hardware und Software-Stack

Verwandte Begriffe

All-Reduce Arithmetische Intensität Attention-Mechanismus Backpropagation (Fehlerrückführung) Batchgröße Berechnungsgraph Datenparallelität FlashAttention Gradient Checkpointing Inferenz-Laufzeitumgebung (Inference Runtime)

Zurück zum Glossar