Basis van machine learning
Welke beschrijving van verklaarbare AI (XAI) is juist?
- AHet aantal parameters en lagen van een model openbaar maken om gebruikers over de grootte en structuur ervan te informeren
- BTrainingsdata toevoegen of het model groter maken om de accuracy van de voorspellingen zo hoog mogelijk te maken
- CTechnieken en ideeën om op een voor mensen begrijpelijke manier te tonen waarom een model een bepaalde voorspelling deed en welke kenmerken die voorspelling beïnvloedden
Antwoord en toelichting tonen
Antwoord: C. Technieken en ideeën om op een voor mensen begrijpelijke manier te tonen waarom een model een bepaalde voorspelling deed en welke kenmerken die voorspelling beïnvloedden
Complexe modellen zoals deep-learningmodellen worden gemakkelijk black boxes: ook als ze goed presteren, is moeilijk te zien waarom ze een bepaalde voorspelling deden. XAI omvat technieken en ideeën waarmee mensen de redenen voor voorspellingen kunnen controleren, zoals methoden die de bijdrage van elk kenmerk aan een voorspelling berekenen (zoals SHAP en LIME) of heatmaps die tonen welk deel van een beeld de beslissing beïnvloedde. Het helpt in gebieden waar beslissingen moeten worden uitgelegd, zoals de geneeskunde en de kredietverlening, en bij het opsporen van fouten en vertekeningen in modellen.