Français
Menu

Programmation GPU

Apprenez les principes de la programmation GPU avec des QCM : hiérarchie grid/block/warp, mémoire partagée, accès mémoire coalescés, divergence de warp et occupation.

S'entraîner sur 10 questionsQuestions aléatoires de ce thème · environ 5 minutes S'entraîner sur ce thèmeToutes les questions de ce thème dans un ordre aléatoire Questions à revoirNe refaire que les questions manquées lors de la dernière tentative

Programmation GPU : points clés

Un GPU est un processeur qui excelle à exécuter simultanément des milliers à des dizaines de milliers de threads appliquant la même opération à de grandes quantités de données. Les programmes expriment le parallélisme selon une hiérarchie de grids, de blocks et de threads, et le matériel exécute en lockstep des groupes d'environ 32 threads appelés warps.

Obtenir des performances exige des accès mémoire coalescés, où des threads voisins lisent des adresses voisines, l'usage de la mémoire partagée sur puce au sein d'un block, l'absence de divergence dans un warp et une occupation suffisante pour masquer la latence mémoire. Ce thème se concentre sur des principes indépendants des générations de produits.

Toutes les questions sur Programmation GPU (50)
  1. Quelle est la différence de philosophie de conception entre CPU et GPU ?
  2. Quelle est la caractéristique la plus adaptée d'une tâche que le GPU traite rapidement ?
  3. Quel traitement tend à être peu efficace lorsqu'il est exécuté sur GPU ?
  4. Quelle est la définition du « noyau » (kernel) en programmation GPU, par exemple en CUDA ?
  5. Quelle est la hiérarchie correcte des threads en CUDA (du plus grand au plus petit) ?
  6. Dans un noyau CUDA, l'indice i de chaque thread est obtenu par l'expression ci-dessus. Que vaut i pour le thread tel que blockIdx.x=2, blockDim.x=256 et threadIdx.x=5 ?
  7. On veut traiter un tableau de 1000 éléments à raison d'un élément par thread, avec 256 threads par bloc. Combien de blocs faut-il lancer ?
  8. Pourquoi le noyau CUDA ci-dessus contient-il « if (i < n) » ?
  9. Comment appelle-t-on, sur les GPU NVIDIA, l'unité regroupant 32 threads qui exécutent simultanément la même instruction ?
  10. Quelle est la différence entre le mode SIMT (instruction unique, threads multiples) des GPU et les instructions SIMD des CPU ?
  11. Dans un warp, un branchement conditionnel envoie la moitié des threads dans la branche if et l'autre moitié dans la branche else (divergence de warp). Comment l'exécution se déroule-t-elle généralement ?
  12. Les codes (1) et (2) ci-dessus font tous deux exécuter A à la moitié des threads et B à l'autre moitié. Quelle explication est correcte du point de vue de l'efficacité des warps (32 threads par warp) ?
  13. Quelle est la définition de l'accès mémoire coalescé (coalescing) sur GPU ?
  14. Avec i l'indice de chaque thread, lire le tableau tous les 32 éléments comme ci-dessus est plus lent que lire a[i]. Quelle en est la raison principale ?
  15. Pour traiter sur GPU des données de particules ayant des positions x, y et z, quelle disposition est avantageuse du point de vue de l'accès mémoire coalescé ?
  16. Quelle est la caractéristique de la mémoire partagée (shared memory) en CUDA ?
  17. Quel est le rôle de __syncthreads() en CUDA ?
  18. En CUDA, __syncthreads() est placé dans « if (threadIdx.x < 16) », de sorte que seuls certains threads le franchissent. Que peut-il se produire ?
  19. Quelle est la définition des conflits de banc (bank conflicts) de la mémoire partagée CUDA ?
  20. Un tableau de 32×32 float est placé en mémoire partagée ; sa lecture par colonne (verticalement) par les 32 threads d'un warp provoque des conflits de banc. Quelle contre-mesure est couramment utilisée ?
  21. Lors du calcul d'un produit de grandes matrices sur GPU, pourquoi découpe-t-on les matrices en petites tuiles chargées en mémoire partagée ?
  22. Que peut-il se produire si un noyau GPU utilise trop de registres par thread ?
  23. Quelle est la définition de l'occupation (occupancy) d'un GPU ?
  24. Quelle est la principale méthode par laquelle le GPU masque la longue latence mémoire (plusieurs centaines de cycles) ?
  25. Quel énoncé est correct au sujet de l'occupation d'un GPU ?
  26. Quelle est la relation entre les blocs et les SM (multiprocesseurs de flux) en CUDA ?
  27. En CUDA, on veut, au milieu d'un noyau, attendre que tous les autres blocs aient terminé leur calcul avant de passer à l'étape suivante. Quelle est la méthode usuelle ?
  28. Pour construire sur GPU l'histogramme des valeurs de pixels, faire ajouter directement par tous les threads via atomicAdd dans les 256 cases en mémoire globale peut être lent. Quelle méthode l'améliore ?
  29. Pour calculer sur GPU la somme d'un grand nombre de valeurs, pourquoi utilise-t-on une réduction en arbre (répétition de l'addition de voisins qui divise par deux le nombre de valeurs) ?
  30. Combien d'étapes faut-il pour sommer 1024 valeurs par une réduction en arbre ?
  31. Dans un programme utilisant un GPU discret, quel énoncé est généralement correct au sujet de la mémoire côté CPU et côté GPU ?
  32. Envoyer des données au GPU pour un traitement léger, comme une seule addition par élément d'un tableau, peut être plus lent qu'un calcul sur CPU. Quelle en est la raison principale ?
  33. Pourquoi le transfert vers le GPU est-il plus rapide lorsque la mémoire CPU est épinglée (verrouillée en pages) ?
  34. Quel est l'objectif principal de l'utilisation de plusieurs flux (streams) CUDA ?
  35. Un programme qui lance des milliers de fois de suite des noyaux très petits est lent. Quelle amélioration est la plus appropriée ?
  36. Quelle est la définition de la mémoire unifiée (unified memory) de CUDA ?
  37. Lors de l'addition élément par élément de deux grands tableaux sur GPU (c[i] = a[i] + b[i]), qu'est-ce qui détermine principalement les performances ?
  38. Pourquoi, sur de nombreux GPU grand public pour le jeu, les performances en double précision (FP64) sont-elles bien inférieures (par exemple quelques dizaines de fois) à celles en simple précision (FP32) ?
  39. Quelle est la caractéristique des Tensor Cores (unités de calcul matriciel) des GPU récents ?
  40. En calcul en précision mixte sur GPU, pourquoi effectue-t-on souvent les multiplications en faible précision (FP16, etc.) et l'accumulation en FP32 ?
  41. La somme en virgule flottante des mêmes données calculée sur GPU diffère légèrement au dernier chiffre d'une exécution à l'autre. Quelle est la cause la plus probable ?
  42. Quelle règle générale guide le choix du nombre de threads par bloc en CUDA ?
  43. Quel est l'avantage d'écrire un noyau avec une boucle comme ci-dessus (boucle à pas de grille, grid-stride loop) ?
  44. Pour quel type d'accès la mémoire constante de CUDA est-elle particulièrement rapide ?
  45. Quelle est la caractéristique générale des caches GPU par rapport à ceux des CPU ?
  46. Quel est un exemple de mécanisme de programmation pour le calcul parallèle sur GPU et autres, utilisable aussi sur des GPU autres que NVIDIA ?
  47. Sur GPU, on veut extraire d'un tableau les seuls éléments satisfaisant une condition et les écrire de façon compacte dans un autre tableau (chaque thread produit 0 ou 1 sortie). Quel calcul parallèle est couramment utilisé pour déterminer l'adresse d'écriture de chaque thread ?
  48. Quelle hypothèse faut-il respecter lors de l'écriture d'un noyau GPU ?
  49. Lors de la transposition d'une grande matrice sur GPU (b[j][i] = a[i][j]), quel est l'objectif principal du passage par la mémoire partagée ?
  50. En CUDA, quel est généralement le comportement juste après le lancement d'un noyau par le programme côté CPU ?

Comparatifs sur ce thème

Autres thèmes de Systèmes informatiques