컴퓨터 산술
FP8의 두 형식인 E4M3(지수부 4·가수 3비트)와 E5M2(지수부 5·가수 2비트)의 구분 사용으로 일반적인 것은 무엇입니까?
- A가중치와 활성화에 E4M3, 그래디언트에 E5M2를 사용한다
- B둘 다 정밀도와 범위가 같으므로 구별하지 않고 사용한다
- CE4M3는 정수, E5M2는 부동소수점으로 사용한다
정답과 해설 보기
정답: A. 가중치와 활성화에 E4M3, 그래디언트에 E5M2를 사용한다
8비트라는 한정된 비트를 지수부와 가수에 어떻게 나누느냐에 따라 성질이 달라집니다. E4M3는 가수가 1비트 많아 정밀도가 높은 대신 범위가 좁고, E5M2는 지수부가 1비트 많아 범위가 넓은 대신 정밀도가 낮습니다. 그래서 값의 크기가 어느 정도 고른 가중치와 활성화에는 E4M3, 값의 크기가 크게 흩어지는 그래디언트에는 E5M2를 사용하는 것이 일반적입니다. 둘 다 부동소수점 형식이며 정수가 아닙니다.