머신러닝의 기초
과적합(과대적합)이 일어나고 있을 때 보이는 모습으로 적절한 것은?
- A학습용 데이터에서의 오차는 작지만, 검증용 데이터에서의 오차가 크다
- B학습용 데이터에서도 검증용 데이터에서도 오차가 큰 채로 내려가지 않는다
- C학습을 진행할수록 학습용 데이터에서의 오차도 검증용 데이터에서의 오차도 똑같이 계속 내려간다
정답과 해설 보기
정답: A. 학습용 데이터에서의 오차는 작지만, 검증용 데이터에서의 오차가 크다
과적합은 모델이 학습용 데이터의 세세한 특징이나 잡음까지 외워 버려서, 새로운 데이터에 대한 성능(일반화 성능)이 떨어지는 상태입니다. 학습용 데이터에서의 오차는 작은데 검증용 데이터에서의 오차가 큰 것이 기준이 됩니다. 학습용 데이터에서도 오차가 큰 상태는 모델이 너무 단순한 등의 이유로 경향을 다 포착하지 못하는 과소적합(학습 부족)입니다. 대책으로는 데이터를 늘리기, 모델을 단순하게 하기, 정칙화나 드롭아웃, 검증용 데이터에서의 오차가 오르기 시작한 시점에서 학습을 멈추는 조기 종료 등이 있습니다.