Bases de l'apprentissage automatique

Combien de paramètres entraînables compte une couche entièrement connectée à 64 entrées et 32 sorties (avec un biais par sortie) ?

  1. A96
  2. B2048
  3. C2080
Afficher la réponse et l'explication

Réponse : C. 2080

Dans une couche entièrement connectée, chaque couple formé d'une entrée et d'une sortie possède un poids : il y a donc 64 × 32 = 2048 poids. S'y ajoutent les 32 biais, un par sortie, soit 2048 + 32 = 2080 paramètres. En général, une couche entièrement connectée à n entrées et m sorties compte (n + 1) × m paramètres. Une couche de convolution réutilise le même filtre sur toute l'image ; pour une entrée de même taille, elle compte donc beaucoup moins de paramètres qu'une couche entièrement connectée.

S'entraîner sur ce thème Retour au thème

Autres questions sur Bases de l'apprentissage automatique

  1. On applique à une image 28×28 à 1 canal une convolution avec un filtre 5×5 (pas 1, sans remplissage), puis un max-pooling 2×2 (pas 2). Quelles sont la hauteur et la largeur de la sortie ?
  2. Quelle description du réseau de neurones récurrent (RNN) et du LSTM est correcte ?
  3. Quelle description de l'auto-attention (self-attention), utilisée dans le Transformer, est correcte ?
  4. Quelle description de l'apprentissage par transfert, qui réutilise un modèle pré-entraîné sur une grande quantité de données pour une autre tâche disposant de peu de données, est correcte ?
  5. Quelle description des modèles qui génèrent des images ou d'autres données est correcte ?