머신러닝의 기초
대량의 데이터로 학습을 마친 모델을 다른 과제에 적은 데이터로 활용하는 전이 학습에 대한 설명으로 적절한 것은?
- A학습을 마친 모델의 가중치를 출발점으로 삼아, 새 과제에 맞추어 출력층을 교체하거나 새 데이터로 일부 또는 전체를 재학습(파인튜닝)하거나 한다
- B학습을 마친 모델은 사용하지 않고, 새 과제의 적은 데이터만 사용하여 무작위 초깃값의 가중치로부터 모든 층을 다시 학습한다
- C큰 모델의 출력을 흉내 내도록 작은 모델을 학습시켜, 같은 과제를 더 적은 계산과 메모리로 풀 수 있게 한다
정답과 해설 보기
정답: A. 학습을 마친 모델의 가중치를 출발점으로 삼아, 새 과제에 맞추어 출력층을 교체하거나 새 데이터로 일부 또는 전체를 재학습(파인튜닝)하거나 한다
전이 학습은 어떤 과제에서 학습한 모델이 획득한 특징을 다른 과제에 활용하는 방법입니다. 예를 들어 대량의 이미지로 학습한 CNN의 입력에 가까운 층은 윤곽이나 무늬 등의 일반적인 특징을 추출할 수 있으므로, 출력층만 새 과제에 맞추어 교체하여 학습하거나 전체를 작은 학습률로 재학습(파인튜닝)하거나 합니다. 처음부터 학습하는 것보다 적은 데이터와 계산으로 높은 성능을 얻기 쉬우며, 언어 모델을 특정 용도에 맞출 때도 사용됩니다.