Nederlands
Menu

GPU-programmeren

Welke uitspraak over de kenmerken van de tensor cores (matrixrekeneenheden) van recente GPU's is juist?

  1. AZe berekenen met één instructie in één keer de multiply-accumulate van kleine matrices en versnellen AI-berekeningen sterk, vooral met getallen van lage precisie
  2. BEen sensor die de fysische grootheid tensor meet
  3. CEen speciale schakeling voor het tekenen van schaduwen in graphics
Antwoord en toelichting tonen

Antwoord: A. Ze berekenen met één instructie in één keer de multiply-accumulate van kleine matrices en versnellen AI-berekeningen sterk, vooral met getallen van lage precisie

Een tensor core is een rekeneenheid die vermenigvuldiging en optelling van kleine matrices, zoals 4×4 of 16×16, met één instructie in één keer uitvoert. Bij dezelfde oppervlakte en hetzelfde vermogen kunnen er vele malen meer berekeningen worden uitgevoerd dan wanneer een gewone rekeneenheid telkens één vermenigvuldiging en optelling doet. Ze worden vaak gebruikt met lage precisie zoals FP16, BF16, FP8 en INT8 en versnellen het matrixproduct, dat het grootste deel van training en inferentie van neurale netwerken uitmaakt, aanzienlijk.

Dit onderwerp oefenen Naar de onderwerppagina

Meer vragen over GPU-programmeren

  1. Waarom wordt bij gemengde precisie op een GPU vaak de vermenigvuldiging in lage precisie zoals FP16 uitgevoerd en de sommatie (accumulatie) in FP32?
  2. Bij het berekenen van de som van drijvende-kommagetallen van dezelfde data op een GPU week het laatste cijfer van het resultaat bij elke uitvoering lichtjes af. Wat is de meest waarschijnlijke oorzaak?
  3. Welke algemene richtlijn voor het bepalen van het aantal threads per block in CUDA is juist?
  4. Welk voordeel van het schrijven van een kernel met een lus zoals hierboven (grid-stride loop) is juist?
  5. Bij welke toegang werkt CUDA constant memory bijzonder snel?

Vergelijkingen bij dit onderwerp