Pile matérielle et logicielle de l'IA

Quelle définition d'ONNX est correcte ?

  1. ALe nom d'une puce semi-conductrice dédiée à l'IA
  2. BUne méthode de compression des données d'entraînement de l'IA
  3. CUn format de modèle commun pour échanger des modèles entre frameworks et environnements d'exécution d'inférence différents
Afficher la réponse et l'explication

Réponse : C. Un format de modèle commun pour échanger des modèles entre frameworks et environnements d'exécution d'inférence différents

ONNX (Open Neural Network Exchange) est une norme représentant le graphe de calcul et les poids d'un modèle dans un format commun. Un modèle entraîné par exemple avec PyTorch et exporté en ONNX peut être chargé et exécuté par l'environnement d'inférence d'une autre société ou par les outils de divers matériels. Séparant l'environnement d'entraînement de celui d'inférence, il facilite le choix du mécanisme d'exécution optimal pour chaque équipement.

S'entraîner sur ce thème Retour au thème

Autres questions sur Pile matérielle et logicielle de l'IA

  1. Quelle est la principale raison pour laquelle les environnements d'exécution d'inférence comme TensorRT ou ONNX Runtime sont plus rapides qu'une inférence directe dans le framework d'entraînement ?
  2. Pourquoi les opérations élément par élément comme la ReLU ou la normalisation de couche prennent-elles souvent beaucoup de temps au regard de leur nombre d'opérations dans les calculs d'IA ?
  3. Dans les réseaux de neurones convolutifs, pourquoi le calcul de convolution est-il parfois converti en produit matriciel par une méthode comme im2col ?
  4. Quelle différence entre la quantification post-entraînement (PTQ) et l'entraînement tenant compte de la quantification (QAT) est correcte ?
  5. Dans une quantification post-entraînement des activations en INT8, quel est l'objectif de l'« étalonnage » (calibration) ?

Comparatifs sur ce thème