AI 하드웨어·소프트웨어 스택
AI 가속기의 데이터플로 방식 중 하나인 '웨이트 스테이셔너리(가중치 고정)'의 설명으로 올바른 것은 무엇인가?
- A가중치를 매번 메모리에서 다시 읽고 입력을 고정한다
- B가중치를 각 연산기 안에 둔 채 움직이지 않고, 입력 값을 흘려 보내 차례로 곱셈-덧셈을 계산하여 가중치 읽기를 줄인다
- C가중치를 사용하지 않고 계산한다
정답과 해설 보기
정답: B. 가중치를 각 연산기 안에 둔 채 움직이지 않고, 입력 값을 흘려 보내 차례로 곱셈-덧셈을 계산하여 가중치 읽기를 줄인다
행렬 곱에서는 가중치, 입력, 출력 중 무엇을 연산기 안에 머물게 하여 재사용하느냐에 따라 데이터를 움직이는 방식이 여러 가지로 나뉩니다. 웨이트 스테이셔너리에서는 각 연산기에 가중치를 하나씩 읽어 들여 고정하고, 거기에 다수의 입력을 흘려 보내 곱셈-덧셈을 이어 갑니다. 같은 가중치를 많은 입력에 사용할 수 있는 합성곱이나 배치가 큰 계산에서 가중치 읽기 에너지를 크게 줄일 수 있습니다.
- A. 입력을 고정하는 것은 다른 방식입니다.
- B. 정답입니다. 많은 시스톨릭 어레이가 이 방식입니다.
- C. 가중치는 계산에 필요합니다.