AI 하드웨어·소프트웨어 스택
AI용 가속기에서 사용되는 시스톨릭 어레이가 행렬 곱을 효율적으로 계산할 수 있는 주된 이유는 무엇인가?
- A각 연산기가 매번 메인 메모리에서 직접 데이터를 읽기 때문
- B연산기가 하나뿐이어서 회로가 단순하기 때문
- C데이터를 이웃 연산기로 차례로 넘겨 재사용하므로 메모리에서 읽어 오는 횟수가 적고 다수의 연산기를 동시에 동작시킬 수 있기 때문
정답과 해설 보기
정답: C. 데이터를 이웃 연산기로 차례로 넘겨 재사용하므로 메모리에서 읽어 오는 횟수가 적고 다수의 연산기를 동시에 동작시킬 수 있기 때문
시스톨릭 어레이에서는 격자 모양으로 배치한 곱셈-덧셈 연산기 사이를 데이터가 심장 박동처럼 일정한 리듬으로 흐릅니다. 한 번 읽어 온 값은 이웃 연산기로 차례차례 넘겨져 수십 번의 연산에 사용되므로, 메모리에서 읽는 양에 비해 매우 많은 계산을 할 수 있습니다. 배선도 이웃끼리의 짧은 것만으로 충분하므로 다수의 연산기를 높은 밀도로 배치할 수 있습니다.
- A. 그러면 대역폭이 부족해집니다.
- B. 다수의 연산기를 격자 모양으로 배치합니다.
- C. 정답입니다. 데이터 재사용이 핵심입니다.