Wat is Tensor core?

Rekeneenheid van een GPU die het multiply-accumulate van kleine matrices met één instructie berekent. Wordt vooral met getallen van lage precisie gebruikt en versnelt AI-berekeningen sterk.

Japanse benaming: テンソルコア

“Tensor core” komt voor in 1 oefenvragen uit 1 onderwerpen, bijv. GPU-programmeren.

Vakgebied: GPU-programmeren

Nu oefenen: vragen over Tensor core

Welke uitspraak over de kenmerken van de tensor cores (matrixrekeneenheden) van recente GPU's is juist?

  1. AZe berekenen met één instructie in één keer de multiply-accumulate van kleine matrices en versnellen AI-berekeningen sterk, vooral met getallen van lage precisie
  2. BEen sensor die de fysische grootheid tensor meet
  3. CEen speciale schakeling voor het tekenen van schaduwen in graphics
Antwoord en toelichting tonen

Antwoord: A. Ze berekenen met één instructie in één keer de multiply-accumulate van kleine matrices en versnellen AI-berekeningen sterk, vooral met getallen van lage precisie

Een tensor core is een rekeneenheid die vermenigvuldiging en optelling van kleine matrices, zoals 4×4 of 16×16, met één instructie in één keer uitvoert. Bij dezelfde oppervlakte en hetzelfde vermogen kunnen er vele malen meer berekeningen worden uitgevoerd dan wanneer een gewone rekeneenheid telkens één vermenigvuldiging en optelling doet. Ze worden vaak gebruikt met lage precisie zoals FP16, BF16, FP8 en INT8 en versnellen het matrixproduct, dat het grootste deel van training en inferentie van neurale netwerken uitmaakt, aanzienlijk.

“Tensor core” in de toelichting

Vragen met “Tensor core” (1)

  1. Welke uitspraak over de kenmerken van de tensor cores (matrixrekeneenheden) van recente GPU's is juist?

Verwante termen

GPU FP8 INT8 Inferentie (inference) Bankconflict Constant memory CUDA Gemengde precisie (mixed precision) GPU-kernel Grid-stride loop

Naar de woordenlijst