Modèle exprimant les performances atteignables comme le minimum entre la « performance crête » et « bande passante mémoire × intensité arithmétique ». Sert à déterminer si un traitement est limité par le calcul ou par la mémoire.
Nom japonais: Rooflineモデル
« Modèle Roofline » apparaît dans 4 questions d'entraînement réparties sur 3 thèmes, dont Analyse des performances, Pile matérielle et logicielle de l'IA, CPU et architecture.
Réponse : B. 20 TFLOPS (limité par la mémoire)
Dans le modèle Roofline, les performances atteignables sont le minimum entre « performances de crête » et « bande passante × intensité arithmétique ». 2 TB/s × 10 FLOP/octet = 20 TFLOPS, inférieur aux 100 de crête ; ce traitement est donc limité par la mémoire, avec un plafond de 20 TFLOPS. Le seuil (point de crête, ridge point) vaut crête ÷ bande passante = 50 FLOP/octet ; seuls les traitements d'intensité arithmétique supérieure atteignent les performances de crête.
Réponse : C. Augmenter l'intensité arithmétique, par exemple en accroissant la réutilisation des données, ou réduire le volume de lectures et écritures mémoire
Dans le diagramme Roofline, un traitement situé sous la ligne oblique voit sa limite de performance fixée par la bande passante mémoire. Ajouter des unités de calcul ne change pas cette limite. En réutilisant les données par blocking ou fusion d'opérations pour augmenter le nombre d'opérations par octet (intensité arithmétique), le traitement se déplace vers la droite du diagramme et la limite s'élève. Réduire le volume de lectures et écritures en abaissant la précision des données a le même effet.
Dans le modèle Roofline, les performances atteignables sont le minimum entre « performances de crête » et « bande passante × intensité arithmétique ».
Sur un accélérateur de 100 TFLOPS en crête et 2 TB/s de ban…Le modèle roofline porte en abscisse l'intensité arithmétique (opérations par octet lu en mémoire) et en ordonnée les performances.
Quel modèle représente graphiquement, avec l'intensité arit…Il indique, par comparaison avec la valeur théorique du catalogue, la bande passante réellement exploitable, et sert aussi à la pente de la ligne oblique du modèle Roofline.
Que mesure principalement le benchmark STREAM ?Intensité arithmétique Benchmark STREAM All-reduce Attention Cache KV Checkpointing de gradients Compilateur d'IA Décodage spéculatif Distillation des connaissances Élagage (pruning)