KI-Hardware und Software-Stack

Welche Aussage zum Pruning (Beschneiden) neuronaler Netze ist richtig?

  1. AEs reduziert unwichtige Gewichte durch Nullsetzen; unstrukturierte Verfahren, bei denen verstreut Nullen gesetzt werden, lassen sich in Hardware schwer beschleunigen
  2. BEs erhöht die Zahl der Gewichte und steigert die Genauigkeit des Modells stets
  3. CEs verringert die Menge der Trainingsdaten
Antwort und Erläuterung anzeigen

Antwort: A. Es reduziert unwichtige Gewichte durch Nullsetzen; unstrukturierte Verfahren, bei denen verstreut Nullen gesetzt werden, lassen sich in Hardware schwer beschleunigen

Beim Pruning werden Gewichte mit geringem Einfluss, z. B. mit kleinem Wert, auf 0 gesetzt, um Rechenaufwand und Speicher zu verringern. Sind die Nullen jedoch verstreut, entsteht Aufwand, um zu bestimmen, wo Nullen liegen, und da Matrix-Recheneinheiten und Speicher in zusammenhängenden Einheiten arbeiten, wird es praktisch kaum schneller. Strukturiertes Pruning, das kanal- oder schichtweise oder in festgelegten Mustern Nullen setzt, lässt sich in Hardware leichter beschleunigen.

Dieses Thema üben Zur Themenseite

Weitere Fragen zu KI-Hardware und Software-Stack

  1. Welche Aussage zu „2:4 Structured Sparsity“, die von Matrix-Recheneinheiten von GPUs unterstützt wird, ist richtig?
  2. Welche Aussage zur Wissensdestillation (Knowledge Distillation) ist richtig?
  3. Welche Aussage zur Datenparallelität beim Training auf mehreren GPUs ist richtig?
  4. Welche Aussage zur Tensorparallelität, bei der das Matrixprodukt einer großen Schicht, die nicht in den Speicher einer GPU passt, auf mehrere GPUs aufgeteilt wird, ist richtig?
  5. Warum wird bei der Pipeline-Parallelität, bei der die Schichten des Modells der Reihe nach auf mehrere GPUs aufgeteilt werden, der Batch in kleine Mikrobatches unterteilt und durchgeleitet?