Français
Menu

Bases de l'apprentissage automatique

Quelle affirmation décrit correctement la différence entre le bagging (forêt aléatoire, etc.) et le boosting en apprentissage ensembliste ?

  1. ALe bagging entraîne indépendamment des modèles sur plusieurs jeux de données d'apprentissage obtenus par tirage avec remise et combine leurs résultats par moyenne ou vote majoritaire ; le boosting ajoute des modèles l'un après l'autre de façon à corriger les erreurs des modèles précédents
  2. BLe bagging ajoute des modèles un par un en donnant plus de poids aux données mal prédites par le modèle précédent ; le boosting entraîne en parallèle des modèles indépendants sur des données tirées avec remise et prend un vote majoritaire
  3. CLe bagging comme le boosting construisent un grand arbre de décision unique puis en élaguent les branches inutiles pour éviter le surapprentissage
Afficher la réponse et l'explication

Réponse : A. Le bagging entraîne indépendamment des modèles sur plusieurs jeux de données d'apprentissage obtenus par tirage avec remise et combine leurs résultats par moyenne ou vote majoritaire ; le boosting ajoute des modèles l'un après l'autre de façon à corriger les erreurs des modèles précédents

Le bagging crée des jeux de données d'apprentissage légèrement différents en tirant au hasard dans les données d'origine avec répétitions autorisées (bootstrap), puis combine par moyenne ou vote majoritaire les prédictions des nombreux modèles entraînés sur chacun d'eux. Les modèles étant indépendants, ils peuvent être entraînés en parallèle, et l'effet principal est de réduire la variance. La forêt aléatoire est une méthode de bagging qui choisit aussi au hasard les caractéristiques utilisées pour les divisions, afin d'accroître la diversité des arbres de décision. Le boosting ajoute successivement des modèles faibles qui corrigent les erreurs des modèles précédents, et réduit surtout le biais.

S'entraîner sur ce thème Retour au thème

Autres questions sur Bases de l'apprentissage automatique

  1. On prédit la classe du point (0 ; 0) du plan par la méthode des k plus proches voisins. Les données d'apprentissage sont les points rouges (1 ; 0), (3 ; 0) et (0 ; −3) et les points bleus (0 ; 2) et (−2 ; 1). Avec la distance euclidienne, quelle combinaison des prédictions pour k = 3 et pour k = 5 est correcte ?
  2. Quelle description de la machine à vecteurs de support (SVM) est correcte ?
  3. 20 % de l'ensemble des e-mails sont des spams. Un certain mot figure dans 50 % des spams et dans 5 % des autres e-mails. Quelle valeur est la plus proche de la probabilité qu'un e-mail contenant ce mot soit un spam ?
  4. Quelle fonction logique ne peut pas être représentée par un perceptron simple, composé seulement d'une couche d'entrée et d'une couche de sortie (un neurone unique qui produit 0 ou 1 selon un seuil) ?
  5. Dans une classification à 3 classes, les valeurs fournies à la fonction softmax (logits) sont 3, 1 et 0. La sortie (probabilité) de la première classe vaut environ combien de fois celle de la deuxième ? Choisir la valeur la plus proche.