Bases de l'apprentissage automatique

Un nœud d'un arbre de décision contient 6 données de la classe A et 4 données de la classe B. Quelle est l'impureté de Gini de ce nœud ?

  1. A0,24
  2. B0,40
  3. C0,48
Afficher la réponse et l'explication

Réponse : C. 0,48

L'impureté de Gini se calcule par 1 − Σp², où p est la proportion de chaque classe. La classe A représente 0,6 et la classe B 0,4, donc 1 − (0,36 + 0,16) = 0,48. Elle vaut 0 pour un nœud ne contenant qu'une seule classe et atteint son maximum, 0,5, quand deux classes sont présentes à parts égales. Un arbre de décision divise les données en choisissant la caractéristique et le seuil qui minimisent la moyenne pondérée de l'impureté (impureté de Gini ou entropie) des nœuds enfants obtenus.

S'entraîner sur ce thème Retour au thème

Autres questions sur Bases de l'apprentissage automatique

  1. Quelle affirmation décrit correctement la différence entre le bagging (forêt aléatoire, etc.) et le boosting en apprentissage ensembliste ?
  2. On prédit la classe du point (0 ; 0) du plan par la méthode des k plus proches voisins. Les données d'apprentissage sont les points rouges (1 ; 0), (3 ; 0) et (0 ; −3) et les points bleus (0 ; 2) et (−2 ; 1). Avec la distance euclidienne, quelle combinaison des prédictions pour k = 3 et pour k = 5 est correcte ?
  3. Quelle description de la machine à vecteurs de support (SVM) est correcte ?
  4. 20 % de l'ensemble des e-mails sont des spams. Un certain mot figure dans 50 % des spams et dans 5 % des autres e-mails. Quelle valeur est la plus proche de la probabilité qu'un e-mail contenant ce mot soit un spam ?
  5. Quelle fonction logique ne peut pas être représentée par un perceptron simple, composé seulement d'une couche d'entrée et d'une couche de sortie (un neurone unique qui produit 0 ou 1 selon un seuil) ?