AI 하드웨어·소프트웨어 스택
AI용 가속기가 칩 위에 큰 SRAM(수십~수백 MB)을 탑재하는 경우가 있는 주된 이유는 무엇인가?
- ASRAM은 전원을 꺼도 데이터가 사라지지 않기 때문
- BSRAM은 DRAM보다 비트당 저렴하기 때문
- C가중치나 중간 결과를 칩 안에 두고 여러 번 사용하여, 느리고 전력을 많이 쓰는 외부 메모리에 대한 접근을 줄이기 위해서
정답과 해설 보기
정답: C. 가중치나 중간 결과를 칩 안에 두고 여러 번 사용하여, 느리고 전력을 많이 쓰는 외부 메모리에 대한 접근을 줄이기 위해서
칩 바깥의 DRAM에서 데이터를 한 번 읽는 데 드는 에너지는 곱셈-덧셈 연산 1회의 수십~수백 배에 달합니다. 칩 위의 SRAM에 데이터를 두고 여러 번 사용하면 외부 메모리 접근이 줄어 속도와 에너지 효율이 모두 좋아집니다. 다만 SRAM은 면적을 많이 차지하고 고가이므로, 얼마나 탑재할지는 다루는 모델의 크기와 비용의 균형으로 결정됩니다.
- A. SRAM은 휘발성이어서 전원을 끄면 사라집니다.
- B. SRAM은 DRAM보다 비트당 훨씬 비쌉니다.
- C. 정답입니다. 데이터 이동은 계산보다 많은 에너지를 사용합니다.