Ein Modell soll aus Bewerbungsunterlagen Einstellungsentscheidungen vorhersagen, wobei frühere Einstellungsergebnisse als richtige Antworten dienen. Worauf ist dabei zu achten?

Antwort: A. Waren frühere Entscheidungen etwa nach Geschlecht verzerrt, kann das Modell diese Verzerrung lernen und sie unverändert reproduzieren oder sogar verstärken

Ein Machine-Learning-Modell lernt die Tendenzen in seinen Trainingsdaten so, wie sie sind; es lernt daher auch Verzerrungen (Bias) in den Daten, etwa Diskriminierung in früheren Entscheidungen oder zu wenige Daten über bestimmte Gruppen. Mehr verzerrte Daten beseitigen die Verzerrung selbst nicht, und auch wenn die Spalte für das Geschlecht entfernt wird, kann die Verzerrung über eng damit zusammenhängende Merkmale wie Werdegang oder Hobbys erhalten bleiben. Wichtig ist, die Datenerhebung zu überprüfen, Fehlerraten für jede Gruppe zu kontrollieren und die Fairness zu bewerten.