On entraîne un modèle sur 10 000 données d'apprentissage avec une taille de lot (batch size) de 50 pour les mini-lots. Combien de mises à jour des poids ont lieu en une époque ?

Réponse : B. 200

Une époque est l'unité d'apprentissage qui correspond à un passage complet sur l'ensemble des données d'apprentissage. En apprentissage par mini-lots, on calcule le gradient et l'on met à jour les poids une fois par mini-lot ; le nombre de mises à jour par époque (nombre d'itérations) vaut donc 10 000 ÷ 50 = 200. Avec 10 époques, il y a 2000 mises à jour au total. L'apprentissage par mini-lots est intermédiaire entre l'apprentissage par lot, qui ne fait qu'une mise à jour sur l'ensemble des données, et l'apprentissage en ligne, qui met à jour après chaque donnée.