Qu'est-ce que Graphe de calcul ?

Représentation du calcul d'un modèle avec les opérations comme nœuds et les échanges de tenseurs comme arcs. Base de la différentiation automatique et des optimisations des compilateurs d'IA.

Nom japonais: 計算グラフ

« Graphe de calcul » apparaît dans 4 questions d'entraînement réparties sur 1 thèmes, dont Pile matérielle et logicielle de l'IA.

Domaine: Pile matérielle et logicielle de l'IA

S'entraîner : questions sur Graphe de calcul

Quelle définition du « graphe de calcul » utilisé dans les frameworks et compilateurs d'IA est correcte ?

  1. AUn graphique linéaire montrant les performances de l'IA année par année
  2. BUn graphique montrant l'évolution de la valeur de la perte pendant l'entraînement
  3. CUne représentation du calcul du modèle où les opérations sont des nœuds et les échanges de données (tenseurs) des flèches
Afficher la réponse et l'explication

Réponse : C. Une représentation du calcul du modèle où les opérations sont des nœuds et les échanges de données (tenseurs) des flèches

Le graphe de calcul est le plan du calcul d'un modèle : les opérations (produit matriciel, addition, fonction d'activation, etc.) en sont les nœuds et les tenseurs qui circulent entre elles les flèches. Le framework parcourt ce graphe à rebours pour calculer automatiquement les gradients de la rétropropagation, et le compilateur l'examine dans son ensemble pour optimiser fusions et réordonnancements. Le graphe indique aussi quelles opérations sont indépendantes et peuvent s'exécuter en parallèle.

« Graphe de calcul » dans les explications

Questions mentionnant « Graphe de calcul » (4)

  1. Quelle définition du « graphe de calcul » utilisé dans les frameworks et compilateurs d'IA est correcte ?
  2. Quel est le principal traitement effectué par les compilateurs d'IA comme XLA, TVM ou la fonction de compilation de PyTorch ?
  3. Quelle définition d'ONNX est correcte ?
  4. Quel ordre de la pile logicielle d'IA, de la couche la plus proche de l'utilisateur à la plus proche du matériel, est correct ?

Termes associés

GPU NPU (unité de traitement neuronal) Rétropropagation Compilateur d'IA ONNX Inférence All-reduce Attention Cache KV Checkpointing de gradients

Retour au glossaire