GPU-Programmierung
Welche Aussage zu Tensor Cores (Matrixrecheneinheiten) in neueren GPUs ist richtig?
- ASie berechnen das Multiply-Accumulate kleiner Matrizen mit einer einzigen Anweisung und beschleunigen KI-Berechnungen vor allem mit Zahlen niedriger Genauigkeit erheblich
- BSie sind Sensoren zur Messung der physikalischen Größe Tensor
- CSie sind Spezialschaltungen zum Zeichnen von Schatten in der Grafik
Antwort und Erläuterung anzeigen
Antwort: A. Sie berechnen das Multiply-Accumulate kleiner Matrizen mit einer einzigen Anweisung und beschleunigen KI-Berechnungen vor allem mit Zahlen niedriger Genauigkeit erheblich
Ein Tensor Core ist eine Recheneinheit, die die Multiplikation und Addition kleiner Matrizen, etwa 4×4 oder 16×16, mit einer einzigen Anweisung auf einmal ausführt. Bei gleicher Fläche und Leistung lässt sich ein Mehrfaches an Berechnungen leisten, verglichen mit normalen Recheneinheiten, die Multiplikation und Addition einzeln ausführen. Sie werden meist mit niedriger Genauigkeit wie FP16, BF16, FP8 oder INT8 verwendet und beschleunigen das Matrixprodukt, das den größten Teil von Training und Inferenz neuronaler Netze ausmacht, erheblich.