Afkorting van Graphics Processing Unit. Processor met veel eenvoudige rekeneenheden die grote hoeveelheden data parallel verwerkt. Naast beeldverwerking veel gebruikt voor training en inferentie van AI.
Japanse benaming: GPU
“GPU” komt voor in 82 oefenvragen uit 11 onderwerpen, bijv. GPU-programmeren, AI-hardware en softwarestack, Geavanceerde technologieën (3D-integratie, chiplets).
Vakgebied: CPU en architectuur
Antwoord: A. Het is een norm die de bandbreedte (snelheid) van gegevensoverdracht vooropstelt
GDDR is DRAM dat de overdrachtssnelheid per pin vooropstelt, zodat GPU's grote hoeveelheden beeldgegevens snel kunnen verwerken; GDDR6X haalt 20 Gb/s of meer en GDDR7 circa 30 Gb/s (enkele malen DDR5). Het wordt op het bord rond de GPU geplaatst en met korte bedrading verbonden. De kosten per capaciteit en het vermogensverbruik liggen hoger dan bij DDR. Bij AI-versnellers die een nog grotere bandbreedte nodig hebben, wordt gestapeld HBM gebruikt.
Antwoord: B. Ze hebben veel eenvoudige rekeneenheden en kunnen grote hoeveelheden gegevens parallel verwerken
Een GPU heeft van oorsprong, om de vele pixels van het scherm gelijktijdig te verwerken, een structuur met duizenden tot meer dan tienduizend eenvoudige rekeneenheden. Bij bewerkingen als matrixrekenen, waarbij dezelfde berekening op veel gegevens wordt herhaald, levert dit parallellisme hoge prestaties. De laatste jaren beschikken GPU's over speciale eenheden voor matrixbewerkingen (zoals Tensor Cores) en HBM met brede bandbreedte, en zijn ze de hoofdrolspeler bij het trainen van AI. Voor sequentiële verwerking met veel sprongen is een CPU beter geschikt.
GDDR is DRAM dat de overdrachtssnelheid per pin vooropstelt, zodat GPU's grote hoeveelheden beeldgegevens snel kunnen verwerken; GDDR6X haalt 20 Gb/s of meer en GDDR7 circa 30 Gb/s (enkele malen DDR5).
Welke eigenschap van GDDR, het grafische geheugen van GPU's…Een GPU heeft van oorsprong, om de vele pixels van het scherm gelijktijdig te verwerken, een structuur met duizenden tot meer dan tienduizend eenvoudige rekeneenheden.
Wat is de belangrijkste reden dat GPU's geschikt zijn voor …Als GPU en HBM naast elkaar op een silicium-interposer met fijne bedrading worden geplaatst, kunnen ze met veel verbindingen over een korte afstand van enkele mm worden gekoppeld en wordt de geheugenbandbreedte van enkele TB/s bereikt die AI-berekeningen nodig hebben.
Wat is de belangrijkste reden om bij een GPU voor AI de GPU…Interposers kunnen tot enkele malen het belichtingsveld groot worden gemaakt en worden veel gebruikt om GPU's voor AI met meerdere HBM's te verbinden.
Welke 2.5D-integratietechniek van TSMC wordt veel gebruikt …De GPU vereenvoudigt die schakelingen en plaatst daarvoor in de plaats veel meer rekeneenheden, die duizenden threads tegelijk uitvoeren om de totale doorvoer te vergroten.
Welke uitspraak over het verschil in ontwerpfilosofie tusse…CUDA Shared memory HBM (high bandwidth memory) Inferentie (inference) Streaming multiprocessor (SM) SoC (system on chip) Numerieke apertuur (NA) Via Silicium-interposer PCI Express