Was ist Strukturierte Sparsity?

Dünnbesetztheit, bei der Nullgewichte einem festen Muster folgen; bei 2:4-Sparsity, mit zwei Nullen unter je vier Gewichten, rechnen Matrixeinheiten etwa doppelt so schnell.

Japanische Bezeichnung: 構造化スパース

Fachgebiet: KI-Hardware und Software-Stack

Verwandte Begriffe

All-Reduce Arithmetische Intensität Attention-Mechanismus Backpropagation (Fehlerrückführung) Batchgröße Berechnungsgraph Datenparallelität FlashAttention Gradient Checkpointing Inferenz-Laufzeitumgebung (Inference Runtime)

Zurück zum Glossar