머신러닝의 기초
과거의 채용 결과를 정답으로 삼아 지원 서류로부터 채용 여부를 예측하는 모델을 만들 때 주의해야 할 점으로 적절한 것은?
- A과거의 판단에 성별 등에 의한 편향이 있으면, 모델이 그 편향을 학습하여 그대로 재현하거나 강화할 우려가 있다
- B데이터 건수가 충분히 많으면 원래 데이터에 편향이 있어도 서로 상쇄되므로, 모델의 예측은 자연히 공정해진다
- C성별 열을 입력에서 삭제해 두면, 다른 특성을 통해 편향이 모델에 들어가는 일은 없다
정답과 해설 보기
정답: A. 과거의 판단에 성별 등에 의한 편향이 있으면, 모델이 그 편향을 학습하여 그대로 재현하거나 강화할 우려가 있다
머신러닝 모델은 학습용 데이터에 있는 경향을 그대로 학습하므로, 과거의 판단에 포함된 차별이나 특정 집단의 데이터가 적다는 등의 데이터 편향(바이어스)도 학습해 버립니다. 치우친 데이터를 늘려도 편향 자체는 사라지지 않으며, 성별 열을 지워도 경력이나 취미 등 그것과 관계가 강한 특성을 통해 편향이 남는 경우가 있습니다. 데이터를 모으는 방법을 재검토하고, 집단별 오류율 등을 확인하여 공정성을 평가하는 것이 중요합니다.