AI 하드웨어·소프트웨어 스택
활성화를 INT8로 양자화하는 학습 후 양자화에서 수행하는 '캘리브레이션'의 목적으로 올바른 것은 무엇인가?
- A대표적인 입력 데이터를 흘려 보내 각 층의 활성화 값의 범위를 조사하고 양자화 스케일을 정한다
- BGPU 클럭의 진행을 정확하게 맞춘다
- C화면의 색 표현을 조정한다
정답과 해설 보기
정답: A. 대표적인 입력 데이터를 흘려 보내 각 층의 활성화 값의 범위를 조사하고 양자화 스케일을 정한다
가중치는 학습이 끝나면 값이 정해져 있지만, 활성화 값은 입력에 따라 달라집니다. 그래서 실제 사용에 가까운 입력을 수백 건 정도 흘려 보내 각 층의 활성화가 취하는 값의 범위와 분포를 조사하고, 어느 범위를 INT8의 -127~127에 대응시킬지(스케일)를 정합니다. 최댓값에 맞추면 이상치 때문에 세밀함이 사라지므로, 분포의 대부분이 들어가도록 범위를 조금 좁히기도 합니다.
- A. 정답입니다. 범위를 정하는 방식이 정확도를 좌우합니다.
- B. 클럭 조정이 아닙니다.
- C. 화면 조정이 아닙니다.