Quelle description de l'IA explicable (XAI) est correcte ?

Réponse : C. Les techniques et la démarche qui présentent, sous une forme compréhensible par l'humain, les raisons d'une prédiction du modèle ou les caractéristiques qui y ont contribué

Les modèles complexes comme ceux de l'apprentissage profond, même performants, tendent à devenir des boîtes noires : on comprend mal pourquoi ils produisent une prédiction donnée. La XAI regroupe les techniques et la démarche qui permettent à l'humain de vérifier les raisons d'une prédiction, par exemple des méthodes qui calculent la contribution de chaque caractéristique (SHAP, LIME, etc.) ou des cartes de chaleur qui montrent quelles parties d'une image ont pesé dans la décision. Elle est utile dans les domaines où les décisions doivent être justifiées, comme la médecine ou le crédit, et pour détecter les erreurs ou les biais d'un modèle.