Welche Beschreibung erklärbarer KI (XAI) trifft zu?

Antwort: C. Techniken und Konzepte, die in einer für Menschen verständlichen Form zeigen, warum ein Modell eine bestimmte Vorhersage getroffen hat und welche Merkmale sie beeinflusst haben

Komplexe Modelle wie Deep-Learning-Modelle werden leicht zu Blackboxes: Selbst bei hoher Leistung ist schwer zu erkennen, warum sie eine bestimmte Vorhersage getroffen haben. XAI umfasst Techniken und Konzepte, mit denen Menschen die Gründe für Vorhersagen überprüfen können, etwa Verfahren, die den Beitrag jedes Merkmals zu einer Vorhersage berechnen (wie SHAP und LIME), oder Heatmaps, die zeigen, welcher Teil eines Bildes die Entscheidung beeinflusst hat. Sie hilft in Bereichen, in denen Entscheidungen begründet werden müssen, etwa in der Medizin und bei der Kreditvergabe, sowie beim Aufspüren von Fehlern und Verzerrungen in Modellen.