AI 하드웨어·소프트웨어 스택
GPU의 행렬 연산기가 지원하는 '2:4 구조적 희소성(스파스)'의 설명으로 올바른 것은 무엇인가?
- A가중치를 4개씩 묶어 각 묶음에서 2개를 0으로 하는 정해진 형태의 희소성으로, 행렬 연산기가 0을 건너뛰어 최대 약 2배 빠르게 계산할 수 있다
- B가중치의 4분의 2를 매번 무작위로 골라 계산한다
- C행렬을 2행 4열로 나누어 계산한다
정답과 해설 보기
정답: A. 가중치를 4개씩 묶어 각 묶음에서 2개를 0으로 하는 정해진 형태의 희소성으로, 행렬 연산기가 0을 건너뛰어 최대 약 2배 빠르게 계산할 수 있다
2:4 희소성에서는 연속된 4개의 가중치 중 반드시 2개가 0이 되도록 학습이나 조정을 수행합니다. 0이 아닌 2개의 값과 그 위치를 나타내는 작은 정보만 가지면 되므로 메모리가 줄고, 행렬 연산기는 0과의 곱셈을 건너뛰어 약 2배의 속도로 계산할 수 있습니다. 정해진 형태로 만든 덕분에, 제각각인 희소성에서는 어려운 하드웨어 상의 고속화가 실현되었습니다.
- A. 정답입니다. 0의 위치를 작은 정보로 나타낼 수 있습니다.
- B. 무작위로 고르는 것이 아닙니다.
- C. 행렬을 나누는 방식의 이야기가 아닙니다.