GPU-Programmierung
Warum wird beim Berechnen eines großen Matrixprodukts auf der GPU die Matrix in kleine Tiles unterteilt und in den Shared Memory geladen?
- AUm aus dem Global Memory gelesene Daten im Shared Memory mehrfach wiederzuverwenden und die Zahl der Zugriffe auf den langsamen Speicher zu verringern
- BUm die Werte der Matrix zu verkleinern und Überlauf zu verhindern
- CUm die Zahl der Berechnungen zu verringern und das Ergebnis zu approximieren
Antwort und Erläuterung anzeigen
Antwort: A. Um aus dem Global Memory gelesene Daten im Shared Memory mehrfach wiederzuverwenden und die Zahl der Zugriffe auf den langsamen Speicher zu verringern
Beim Matrixprodukt gehen dieselben Elemente mehrfach in die Berechnung ein. Bei naiver Implementierung liest jeder Thread jedes Mal erneut aus dem Global Memory, und die Speicherbandbreite reicht nicht aus. Werden Tiles in den Shared Memory geladen, können alle Threads des Blocks das Tile mehrfach nutzen, sodass sich die aus dem Global Memory gelesene Menge proportional zur Tile-Größe verringert. Es ist derselbe Gedanke wie das Blocking bei Caches der CPU.