Français
Menu

Pile matérielle et logicielle de l'IA

Quelle est la principale raison pour laquelle le matériel de calcul neuromorphique peut viser une faible consommation d'énergie ?

  1. ATous les neurones fonctionnent toujours simultanément à une fréquence d'horloge élevée
  2. BTous les calculs sont effectués en virgule flottante sur 64 bits
  3. CIl fonctionne par événements, si bien que seules les parties qui reçoivent des impulsions sont actives, et la mémoire qui contient les poids est placée près du calcul pour réduire les déplacements de données
Afficher la réponse et l'explication

Réponse : C. Il fonctionne par événements, si bien que seules les parties qui reçoivent des impulsions sont actives, et la mémoire qui contient les poids est placée près du calcul pour réduire les déplacements de données

Le calcul neuromorphique prend pour modèle les circuits neuronaux du cerveau et transmet l'information sous forme d'impulsions appelées spikes. Seules les parties qui reçoivent des impulsions lorsque l'entrée change sont actives : dans les charges de travail peu actives, les circuits inactifs ne consomment presque rien. Les poids synaptiques sont conservés dans une mémoire située dans chaque cœur, ce qui réduit les longs transferts de données vers les unités de calcul et depuis celles-ci. Ces caractéristiques le distinguent des GPU, qui effectuent tous ensemble des opérations sur des matrices denses.

S'entraîner sur ce thème Retour au thème

Autres questions sur Pile matérielle et logicielle de l'IA

  1. Quelle est la principale raison pour laquelle les réseaux de neurones à impulsions (SNN), les modèles exécutés en calcul neuromorphique, sont difficiles à entraîner directement par la rétropropagation utilisée pour les réseaux de neurones ordinaires ?
  2. Quelle différence entre « entraînement » et « inférence » d'un réseau de neurones est correcte ?
  3. Laquelle des propositions suivantes n'explique pas pourquoi la mémoire nécessaire à l'entraînement est bien plus grande que pour l'inférence du même modèle ?
  4. Un modèle de 7 milliards de paramètres (7B) est entraîné en conservant poids, gradients et les deux états d'Adam en FP32 (4 octets). Quelle valeur est la plus proche de la mémoire nécessaire, activations exclues ?
  5. Si les poids d'un modèle de 7 milliards de paramètres (7B) sont stockés en FP16 (2 octets), quelle est approximativement la mémoire des poids ?

Comparatifs sur ce thème