Pile matérielle et logicielle de l'IA
Quelle est la principale raison pour laquelle certains accélérateurs d'IA embarquent sur la puce une grande SRAM (plusieurs dizaines à centaines de MB) ?
- AParce que la SRAM conserve les données hors tension
- BParce que la SRAM est moins chère par bit que la DRAM
- CPour garder les poids et résultats intermédiaires dans la puce et les réutiliser, réduisant les accès à la mémoire externe, lente et énergivore
Afficher la réponse et l'explication
Réponse : C. Pour garder les poids et résultats intermédiaires dans la puce et les réutiliser, réduisant les accès à la mémoire externe, lente et énergivore
L'énergie nécessaire pour lire une donnée dans une DRAM externe atteint plusieurs dizaines à centaines de fois celle d'une multiplication-accumulation. Garder les données dans la SRAM de la puce et les réutiliser réduit les accès à la mémoire externe et améliore à la fois la vitesse et l'efficacité énergétique. La SRAM occupant toutefois beaucoup de surface et étant coûteuse, la quantité embarquée résulte d'un compromis entre la taille des modèles traités et le coût.
Continuer : 9 autres questions sur Pile matérielle et logicielle de l'IA