Abréviation de Graphics Processing Unit. Processeur doté de très nombreuses unités de calcul simples, qui traite en parallèle de grandes quantités de données. Utilisé pour le graphisme ainsi que pour l'entraînement et l'inférence en IA.
Nom japonais: GPU
« GPU » apparaît dans 82 questions d'entraînement réparties sur 11 thèmes, dont Programmation GPU, Pile matérielle et logicielle de l'IA, Packaging avancé (3D et chiplets).
Domaine: CPU et architecture
Réponse : A. C'est une norme privilégiant la bande passante (débit) de transfert
La GDDR est une DRAM qui privilégie le débit par broche afin que le GPU traite rapidement de grandes quantités de données d'image : plus de 20 Gb/s en GDDR6X et environ 30 Gb/s en GDDR7 (plusieurs fois la DDR5). Elle est disposée sur la carte autour du GPU avec des connexions courtes. Son coût par capacité et sa consommation sont supérieurs à ceux de la DDR. Pour les accélérateurs d'IA exigeant une bande passante encore plus large, on utilise la HBM empilée.
Réponse : B. Ils disposent de nombreuses unités de calcul simples et traitent de grandes quantités de données en parallèle
Le GPU, conçu à l'origine pour traiter simultanément de nombreux pixels d'écran, aligne des milliers à plus de 10 000 unités de calcul simples. Pour les traitements qui répètent le même calcul sur de grandes quantités de données, comme le calcul matriciel, ce parallélisme offre des performances élevées. Les GPU récents intègrent des unités dédiées au calcul matriciel (Tensor Core, etc.) et de la HBM à large bande passante, et sont devenus les principaux acteurs de l'entraînement en IA. Les traitements séquentiels riches en branchements restent le point fort du CPU.
La GDDR est une DRAM qui privilégie le débit par broche afin que le GPU traite rapidement de grandes quantités de données d'image : plus de 20 Gb/s en GDDR6X et environ 30 Gb/s en GDDR7 (plusieurs fois la DDR5).
Quelle caractéristique de la GDDR, utilisée comme mémoire g…Le GPU, conçu à l'origine pour traiter simultanément de nombreux pixels d'écran, aligne des milliers à plus de 10 000 unités de calcul simples.
Quelle est la principale raison pour laquelle les GPU convi…En plaçant GPU et HBM côte à côte sur un interposeur silicium capable de pistes fines, ils sont reliés par de nombreuses pistes sur quelques mm, ce qui procure la bande passante mémoire de plusieurs TB/s nécessaire au calcul d'IA.
Pour les GPU destinés à l'IA, quelle est la principale rais…L'interposeur peut désormais atteindre plusieurs fois la taille du champ d'exposition, et cette technique est largement utilisée pour relier les GPU pour l'IA à plusieurs HBM.
Quelle technique d'intégration 2.5D de TSMC est largement u…Le GPU simplifie ces circuits et aligne à la place davantage d'unités de calcul, exécutant simultanément des milliers de threads pour maximiser le débit global.
Quelle est la différence de philosophie de conception entre…CUDA Mémoire partagée (shared memory) HBM Inférence Multiprocesseur de flux (SM) SoC (système sur puce) Interposeur silicium PCI Express Rétropropagation Débit (throughput)