Qu'est-ce que Tensor Core ?

Unité de calcul de GPU qui effectue en une seule instruction la multiplication-accumulation de petites matrices. Utilisée surtout avec des formats de faible précision, elle accélère fortement les calculs d'IA.

Nom japonais: テンソルコア

« Tensor Core » apparaît dans 1 questions d'entraînement réparties sur 1 thèmes, dont CPU et architecture.

Domaine: Programmation GPU

S'entraîner : questions sur Tensor Core

Quelle est la principale raison pour laquelle les GPU conviennent aux calculs matriciels et à l'entraînement et l'inférence en IA ?

  1. ALeur fréquence d'horloge est plus de 100 fois celle d'un CPU
  2. BIls disposent de nombreuses unités de calcul simples et traitent de grandes quantités de données en parallèle
  3. CIls n'ont pas de mémoire
Afficher la réponse et l'explication

Réponse : B. Ils disposent de nombreuses unités de calcul simples et traitent de grandes quantités de données en parallèle

Le GPU, conçu à l'origine pour traiter simultanément de nombreux pixels d'écran, aligne des milliers à plus de 10 000 unités de calcul simples. Pour les traitements qui répètent le même calcul sur de grandes quantités de données, comme le calcul matriciel, ce parallélisme offre des performances élevées. Les GPU récents intègrent des unités dédiées au calcul matriciel (Tensor Core, etc.) et de la HBM à large bande passante, et sont devenus les principaux acteurs de l'entraînement en IA. Les traitements séquentiels riches en branchements restent le point fort du CPU.

« Tensor Core » dans les explications

Questions mentionnant « Tensor Core » (1)

  1. Quelle est la principale raison pour laquelle les GPU conviennent aux calculs matriciels et à l'entraînement et l'inférence en IA ?

Termes associés

GPU Inférence HBM Bloc de threads Boucle grid-stride Coalescence mémoire Conflit de banc CUDA Divergence de warp Masquage de latence

Retour au glossaire