Quelle description du réseau de neurones récurrent (RNN) et du LSTM est correcte ?

Réponse : C. Le RNN traite une séquence dans l'ordre en transmettant l'état caché de l'instant précédent à l'instant suivant, et le LSTM contrôle par des portes la conservation ou l'oubli de l'information, ce qui limite la disparition du gradient sur les longues séquences

Un RNN traite des données séquentielles, comme un texte, de la parole ou les séries temporelles d'un capteur, élément par élément, en transmettant l'information accumulée à l'instant suivant sous forme d'état caché. Comme l'erreur est propagée en remontant le temps, le gradient tend à disparaître ou à exploser sur les longues séquences, et l'information d'un passé lointain s'apprend mal. Le LSTM possède une cellule qui accumule l'information et des portes d'entrée, d'oubli et de sortie, qui lui permettent de conserver longtemps l'information utile. Mais tous deux doivent calculer dans l'ordre chronologique et se parallélisent mal ; c'est ce point qu'a amélioré le Transformer.