Basis van machine learning
Waar moet op worden gelet bij het bouwen van een model dat uit sollicitatiedocumenten voorspelt of iemand wordt aangenomen, met eerdere aannamebeslissingen als juiste antwoorden?
- AAls eerdere beslissingen vertekend waren door geslacht of andere factoren, kan het model die vertekening leren en ze herhalen of versterken
- BAls er genoeg gegevens zijn, heffen de vertekeningen in de oorspronkelijke gegevens elkaar op, zodat de voorspellingen van het model vanzelf eerlijk worden
- CAls de kolom met het geslacht vooraf uit de invoer wordt verwijderd, kan er via andere kenmerken geen vertekening in het model terechtkomen
Antwoord en toelichting tonen
Antwoord: A. Als eerdere beslissingen vertekend waren door geslacht of andere factoren, kan het model die vertekening leren en ze herhalen of versterken
Een machinelearningmodel leert de tendensen in zijn trainingsdata zoals ze zijn, en leert dus ook vertekeningen (bias) in de gegevens, zoals discriminatie in eerdere beslissingen of te weinig gegevens over bepaalde groepen. Meer vertekende gegevens nemen de vertekening zelf niet weg, en ook als de kolom met het geslacht wordt verwijderd, kan de vertekening blijven bestaan via kenmerken die daar sterk mee samenhangen, zoals loopbaan of hobby's. Het is belangrijk om na te gaan hoe de gegevens zijn verzameld, de foutpercentages per groep te controleren en de eerlijkheid (fairness) te beoordelen.