Pour le produit de deux matrices N×N en FP16 (2 octets), en supposant que chaque entrée est lue une fois et le résultat écrit une fois, quelle est approximativement l'intensité arithmétique (opérations par octet) ?

Réponse : B. N/3

Le nombre d'opérations est 2N³ ; les accès mémoire portent sur trois matrices, soit 3N² éléments, ou 6N² octets en FP16. L'intensité arithmétique vaut 2N³ ÷ 6N² = N/3, soit environ 340 pour N = 1024. Plus le produit matriciel est grand, plus le calcul par octet augmente ; c'est donc un traitement qui exploite facilement les performances des unités de calcul. À l'inverse, des traitements comme l'addition élément par élément ont une intensité arithmétique inférieure à 1 et leur vitesse est déterminée par la bande passante mémoire.