Pile matérielle et logicielle de l'IA

Quelle est la principale raison pour laquelle le réseau systolique utilisé dans les accélérateurs d'IA calcule efficacement les produits matriciels ?

  1. AChaque unité de calcul lit directement les données en mémoire principale à chaque fois
  2. BIl n'a qu'une unité de calcul, d'où un circuit simple
  3. CLes données sont transmises de proche en proche aux unités voisines et réutilisées, ce qui réduit les lectures mémoire et permet de faire fonctionner simultanément de nombreuses unités
Afficher la réponse et l'explication

Réponse : C. Les données sont transmises de proche en proche aux unités voisines et réutilisées, ce qui réduit les lectures mémoire et permet de faire fonctionner simultanément de nombreuses unités

Dans un réseau systolique, les données circulent au rythme régulier d'une pulsation entre des unités de multiplication-accumulation disposées en grille. Une valeur lue une fois est transmise successivement aux unités voisines et sert à des dizaines d'opérations, ce qui permet un très grand nombre de calculs par rapport au volume lu en mémoire. Les liaisons se limitant à de courtes connexions entre voisins, de nombreuses unités peuvent être disposées à haute densité.

S'entraîner sur ce thème Retour au thème

Autres questions sur Pile matérielle et logicielle de l'IA

  1. Quelle est la principale raison pour laquelle certains accélérateurs d'IA embarquent sur la puce une grande SRAM (plusieurs dizaines à centaines de MB) ?
  2. Quelle définition du flux de données « weight stationary » (poids fixes), l'une des approches des accélérateurs d'IA, est correcte ?
  3. Laquelle des propositions suivantes n'est pas un avantage de l'inférence d'IA effectuée dans le terminal (edge), comme un smartphone, plutôt que sur un serveur dans le cloud ?
  4. Quelle est la principale raison pour laquelle le NPU d'un SoC de smartphone est plus efficace énergétiquement que le CPU pour l'inférence d'IA ?
  5. À quoi faut-il prendre garde concernant la valeur « xx TOPS » indiquée comme performance d'un accélérateur d'IA ?