Bases de l'apprentissage automatique

Quelle description de l'apprentissage par transfert, qui réutilise un modèle pré-entraîné sur une grande quantité de données pour une autre tâche disposant de peu de données, est correcte ?

  1. AOn part des poids du modèle pré-entraîné, puis on remplace la couche de sortie pour l'adapter à la nouvelle tâche, ou l'on réentraîne une partie ou la totalité du modèle sur les nouvelles données (fine-tuning)
  2. BOn n'utilise pas le modèle pré-entraîné et l'on réentraîne toutes les couches à partir de poids initialisés au hasard, avec seulement les quelques données de la nouvelle tâche
  3. COn entraîne un petit modèle à imiter les sorties d'un grand modèle, pour résoudre la même tâche avec moins de calcul et de mémoire
Afficher la réponse et l'explication

Réponse : A. On part des poids du modèle pré-entraîné, puis on remplace la couche de sortie pour l'adapter à la nouvelle tâche, ou l'on réentraîne une partie ou la totalité du modèle sur les nouvelles données (fine-tuning)

L'apprentissage par transfert met à profit pour une autre tâche les caractéristiques acquises par un modèle entraîné sur une première tâche. Par exemple, les couches proches de l'entrée d'un CNN entraîné sur une grande quantité d'images savent extraire des caractéristiques générales comme les contours ou les motifs : on peut donc ne remplacer et n'entraîner que la couche de sortie pour la nouvelle tâche, ou réentraîner l'ensemble avec un faible taux d'apprentissage (fine-tuning). On obtient plus facilement de bonnes performances avec moins de données et de calcul qu'en partant de zéro, et la méthode sert aussi à adapter un modèle de langage à un usage particulier.

S'entraîner sur ce thème Retour au thème

Autres questions sur Bases de l'apprentissage automatique

  1. Quelle description des modèles qui génèrent des images ou d'autres données est correcte ?
  2. Quelle description de la façon dont un grand modèle de langage (LLM) traite un texte est correcte ?
  3. Quel point faut-il surveiller lorsque l'on construit un modèle qui prédit, à partir des dossiers de candidature, si un candidat sera recruté, en prenant comme bonnes réponses les décisions de recrutement passées ?
  4. Quelle description de l'IA explicable (XAI) est correcte ?
  5. Parmi les tâches d'apprentissage supervisé suivantes, laquelle est une régression ?