Laquelle des propositions suivantes n'explique pas pourquoi la mémoire nécessaire à l'entraînement est bien plus grande que pour l'inférence du même modèle ?

Réponse : A. Parce que l'entraînement multiplie le nombre de poids par rapport à l'inférence

Le nombre de poids du modèle est le même à l'entraînement et à l'inférence. Mais l'entraînement doit conserver, couche par couche, les résultats intermédiaires de la propagation avant pour calculer les gradients en rétropropagation, ainsi qu'autant de gradients que de poids et les valeurs par poids tenues par l'optimiseur, comme Adam (deux moyennes mobiles, etc.). La mémoire d'entraînement est donc plusieurs fois celle de l'inférence, qui ne demande que les poids, et l'entraînement des grands modèles exige de nombreux GPU.