CPU und Architektur
Was ist der Hauptgrund, warum GPUs für Matrixoperationen sowie Training und Inferenz von KI geeignet sind?
- AWeil ihre Taktfrequenz mehr als 100-mal so hoch wie die der CPU ist
- BWeil sie viele einfache Recheneinheiten besitzen und große Datenmengen parallel verarbeiten können
- CWeil sie keinen Speicher besitzen
Antwort und Erläuterung anzeigen
Antwort: B. Weil sie viele einfache Recheneinheiten besitzen und große Datenmengen parallel verarbeiten können
GPUs sind ursprünglich für die gleichzeitige Verarbeitung vieler Bildpunkte aufgebaut und enthalten einige tausend bis über zehntausend einfache Recheneinheiten. Bei Aufgaben wie Matrixoperationen, in denen dieselbe Rechnung auf große Datenmengen wiederholt wird, bringt diese Parallelität hohe Leistung. In jüngerer Zeit besitzen sie spezielle Einheiten für Matrixoperationen (z. B. Tensor Cores) und HBM mit hoher Bandbreite und sind zum Hauptakteur beim KI-Training geworden. Sequenzielle Verarbeitung mit vielen Verzweigungen liegt der CPU besser.