Bases de l'apprentissage automatique

On calcule la dérivée dy/dx de y = (2x + 1)² en x = 1 par la règle de dérivation en chaîne, en posant u = 2x + 1 et y = u². Quelle est la valeur correcte ?

  1. A6
  2. B9
  3. C12
Afficher la réponse et l'explication

Réponse : C. 12

La règle de dérivation en chaîne donne dy/dx = (dy/du) × (du/dx). dy/du = 2u et du/dx = 2 ; en x = 1, u = 3, donc dy/dx = 2 × 3 × 2 = 12. La rétropropagation du gradient applique cette règle de proche en proche, de la sortie vers l'entrée, pour calculer efficacement le gradient de la perte par rapport aux poids de chaque couche. Chaque couche multiplie le gradient reçu de la couche suivante par sa propre dérivée locale et le transmet à la couche précédente.

S'entraîner sur ce thème Retour au thème

Autres questions sur Bases de l'apprentissage automatique

  1. Dans un réseau de neurones à nombreuses couches, quelle est la raison pour laquelle l'utilisation de la fonction sigmoïde comme fonction d'activation rend difficile l'apprentissage des couches proches de l'entrée ?
  2. On entraîne un modèle sur 10 000 données d'apprentissage avec une taille de lot (batch size) de 50 pour les mini-lots. Combien de mises à jour des poids ont lieu en une époque ?
  3. Combien de paramètres entraînables compte une couche entièrement connectée à 64 entrées et 32 sorties (avec un biais par sortie) ?
  4. On applique à une image 28×28 à 1 canal une convolution avec un filtre 5×5 (pas 1, sans remplissage), puis un max-pooling 2×2 (pas 2). Quelles sont la hauteur et la largeur de la sortie ?
  5. Quelle description du réseau de neurones récurrent (RNN) et du LSTM est correcte ?