Français
Menu

Pile matérielle et logicielle de l'IA

Quel est approximativement le nombre d'opérations en virgule flottante (multiplications et additions comptées séparément) du produit d'une matrice M×K par une matrice K×N ?

  1. AMNK
  2. BM+N+K
  3. C2MNK
Afficher la réponse et l'explication

Réponse : C. 2MNK

La matrice résultat comporte M×N éléments, chacun étant un produit scalaire de longueur K qui demande K multiplications et K additions (environ K). Au total, environ 2MNK opérations. Le volume de calcul de l'IA est souvent estimé par cette formule, et les performances s'expriment en opérations par seconde (FLOPS). Si une multiplication-accumulation compte pour une opération, on obtient la moitié, MNK ; il faut donc vérifier la convention utilisée.

S'entraîner sur ce thème Retour au thème

Autres questions sur Pile matérielle et logicielle de l'IA

  1. Pour le produit de deux matrices N×N en FP16 (2 octets), en supposant que chaque entrée est lue une fois et le résultat écrit une fois, quelle est approximativement l'intensité arithmétique (opérations par octet) ?
  2. Sur un accélérateur de 100 TFLOPS en crête et 2 TB/s de bande passante mémoire, on exécute un traitement d'intensité arithmétique 10 FLOP/octet. Quelles performances atteignables estime le modèle Roofline ?
  3. Avec une seule entrée (taille de lot 1), pourquoi le calcul d'une couche entièrement connectée (produit matrice de poids-vecteur) tend-il à être limité par la mémoire ?
  4. En inférence, pourquoi l'augmentation de la taille de lot (nombre d'entrées traitées ensemble) tend-elle à améliorer l'efficacité globale ?
  5. Quel est l'inconvénient d'une taille de lot trop grande en inférence ?

Comparatifs sur ce thème