CPU en architectuur
Wat is de belangrijkste reden dat GPU's geschikt zijn voor matrixbewerkingen en het trainen en inferentie van AI?
- ADe klokfrequentie is meer dan 100 keer die van een CPU
- BZe hebben veel eenvoudige rekeneenheden en kunnen grote hoeveelheden gegevens parallel verwerken
- CZe hebben geen geheugen
Antwoord en toelichting tonen
Antwoord: B. Ze hebben veel eenvoudige rekeneenheden en kunnen grote hoeveelheden gegevens parallel verwerken
Een GPU heeft van oorsprong, om de vele pixels van het scherm gelijktijdig te verwerken, een structuur met duizenden tot meer dan tienduizend eenvoudige rekeneenheden. Bij bewerkingen als matrixrekenen, waarbij dezelfde berekening op veel gegevens wordt herhaald, levert dit parallellisme hoge prestaties. De laatste jaren beschikken GPU's over speciale eenheden voor matrixbewerkingen (zoals Tensor Cores) en HBM met brede bandbreedte, en zijn ze de hoofdrolspeler bij het trainen van AI. Voor sequentiële verwerking met veel sprongen is een CPU beter geschikt.