Pile matérielle et logicielle de l'IA

Quelle définition du « graphe de calcul » utilisé dans les frameworks et compilateurs d'IA est correcte ?

  1. AUn graphique linéaire montrant les performances de l'IA année par année
  2. BUn graphique montrant l'évolution de la valeur de la perte pendant l'entraînement
  3. CUne représentation du calcul du modèle où les opérations sont des nœuds et les échanges de données (tenseurs) des flèches
Afficher la réponse et l'explication

Réponse : C. Une représentation du calcul du modèle où les opérations sont des nœuds et les échanges de données (tenseurs) des flèches

Le graphe de calcul est le plan du calcul d'un modèle : les opérations (produit matriciel, addition, fonction d'activation, etc.) en sont les nœuds et les tenseurs qui circulent entre elles les flèches. Le framework parcourt ce graphe à rebours pour calculer automatiquement les gradients de la rétropropagation, et le compilateur l'examine dans son ensemble pour optimiser fusions et réordonnancements. Le graphe indique aussi quelles opérations sont indépendantes et peuvent s'exécuter en parallèle.

S'entraîner sur ce thème Retour au thème

Autres questions sur Pile matérielle et logicielle de l'IA

  1. Quelle définition d'ONNX est correcte ?
  2. Quelle est la principale raison pour laquelle les environnements d'exécution d'inférence comme TensorRT ou ONNX Runtime sont plus rapides qu'une inférence directe dans le framework d'entraînement ?
  3. Pourquoi les opérations élément par élément comme la ReLU ou la normalisation de couche prennent-elles souvent beaucoup de temps au regard de leur nombre d'opérations dans les calculs d'IA ?
  4. Dans les réseaux de neurones convolutifs, pourquoi le calcul de convolution est-il parfois converti en produit matriciel par une méthode comme im2col ?
  5. Quelle différence entre la quantification post-entraînement (PTQ) et l'entraînement tenant compte de la quantification (QAT) est correcte ?

Comparatifs sur ce thème