학습 후 양자화(PTQ)와 양자화 인지 학습(QAT)의 차이로 올바른 것은 무엇인가?

정답: B. PTQ는 학습이 끝난 모델을 그대로 양자화하고, QAT는 학습 중에 양자화의 영향을 모사하여 낮은 정밀도에서도 오차가 작아지도록 가중치를 조정한다

학습 후 양자화는 학습이 끝난 모델의 가중치(와 활성화)를 소량의 대표 데이터로 값의 범위를 조사한 뒤 낮은 정밀도로 바꾸는 방법으로, 간편하지만 비트 수를 줄일수록 정확도가 떨어지기 쉽습니다. 양자화 인지 학습은 학습의 순전파에서 양자화에 따른 반올림을 모사하고 그 오차까지 포함하여 가중치를 조정하므로, 4비트와 같은 낮은 정밀도에서도 정확도를 유지하기 쉽습니다.

• A. PTQ는 학습 후에 수행합니다.
• B. 정답입니다. QAT는 수고가 드는 만큼 정확도를 유지하기 쉬운 방법입니다.
• C. 둘 다 양자화 방법입니다.