Bases de l'apprentissage automatique
Quelle description de l'apprentissage par transfert, qui réutilise un modèle pré-entraîné sur une grande quantité de données pour une autre tâche disposant de peu de données, est correcte ?
- AOn part des poids du modèle pré-entraîné, puis on remplace la couche de sortie pour l'adapter à la nouvelle tâche, ou l'on réentraîne une partie ou la totalité du modèle sur les nouvelles données (fine-tuning)
- BOn n'utilise pas le modèle pré-entraîné et l'on réentraîne toutes les couches à partir de poids initialisés au hasard, avec seulement les quelques données de la nouvelle tâche
- COn entraîne un petit modèle à imiter les sorties d'un grand modèle, pour résoudre la même tâche avec moins de calcul et de mémoire
Afficher la réponse et l'explication
Réponse : A. On part des poids du modèle pré-entraîné, puis on remplace la couche de sortie pour l'adapter à la nouvelle tâche, ou l'on réentraîne une partie ou la totalité du modèle sur les nouvelles données (fine-tuning)
L'apprentissage par transfert met à profit pour une autre tâche les caractéristiques acquises par un modèle entraîné sur une première tâche. Par exemple, les couches proches de l'entrée d'un CNN entraîné sur une grande quantité d'images savent extraire des caractéristiques générales comme les contours ou les motifs : on peut donc ne remplacer et n'entraîner que la couche de sortie pour la nouvelle tâche, ou réentraîner l'ensemble avec un faible taux d'apprentissage (fine-tuning). On obtient plus facilement de bonnes performances avec moins de données et de calcul qu'en partant de zéro, et la méthode sert aussi à adapter un modèle de langage à un usage particulier.
Continuer : 9 autres questions sur Bases de l'apprentissage automatique