KI-Hardware und Software-Stack

Was ist der Hauptgrund dafür, dass Systolic Arrays in KI-Beschleunigern Matrixprodukte effizient berechnen können?

  1. AJede Recheneinheit liest die Daten jedes Mal direkt aus dem Hauptspeicher
  2. BEs gibt nur eine einzige Recheneinheit, die Schaltung ist daher einfach
  3. CDie Daten werden der Reihe nach an benachbarte Recheneinheiten weitergereicht und wiederverwendet, sodass weniger Speicherlesezugriffe nötig sind und viele Recheneinheiten gleichzeitig arbeiten können
Antwort und Erläuterung anzeigen

Antwort: C. Die Daten werden der Reihe nach an benachbarte Recheneinheiten weitergereicht und wiederverwendet, sodass weniger Speicherlesezugriffe nötig sind und viele Recheneinheiten gleichzeitig arbeiten können

In einem Systolic Array fließen die Daten in gleichmäßigem Takt, einem Pulsschlag ähnlich, zwischen gitterförmig angeordneten Multiply-Accumulate-Einheiten. Ein einmal geladener Wert wird nacheinander an die Nachbareinheiten weitergegeben und für Dutzende von Operationen verwendet, sodass sich im Verhältnis zur aus dem Speicher gelesenen Menge sehr viel rechnen lässt. Da nur kurze Leitungen zwischen Nachbarn nötig sind, lassen sich viele Recheneinheiten mit hoher Dichte anordnen.

Dieses Thema üben Zur Themenseite

Weitere Fragen zu KI-Hardware und Software-Stack

  1. Was ist der Hauptgrund dafür, dass KI-Beschleuniger mitunter großen SRAM (einige zehn bis einige hundert MB) auf dem Chip tragen?
  2. Welche Aussage zu „Weight Stationary“, einem der Dataflow-Verfahren von KI-Beschleunigern, ist richtig?
  3. Welcher der folgenden Punkte trifft nicht als Vorteil zu, wenn die KI-Inferenz nicht auf Cloud-Servern, sondern im Endgerät (Edge) wie einem Smartphone erfolgt?
  4. Was ist der Hauptgrund dafür, dass eine in den SoC eines Smartphones integrierte NPU bei der KI-Inferenz energieeffizienter ist als die CPU?
  5. Was ist bei der als „○○ TOPS“ angegebenen Leistung von KI-Beschleunigern zu beachten?