AI 하드웨어·소프트웨어 스택
피크 성능 100 TFLOPS, 메모리 대역폭 2 TB/s의 가속기에서 연산 강도가 10 FLOP/바이트인 처리를 실행한다. Roofline 모델로 어림한 달성 가능한 성능은 얼마인가?
- A100 TFLOPS(연산 율속)
- B20 TFLOPS(메모리 율속)
- C10 TFLOPS(메모리 율속)
정답과 해설 보기
정답: B. 20 TFLOPS(메모리 율속)
Roofline 모델에서 달성 가능한 성능은 '피크 성능'과 '대역폭 × 연산 강도' 중 작은 쪽입니다. 2 TB/s × 10 FLOP/바이트 = 20 TFLOPS로 피크 100보다 작으므로, 이 처리는 메모리 율속이며 20 TFLOPS가 상한입니다. 피크 ÷ 대역폭 = 50 FLOP/바이트가 경계(릿지 포인트)이며, 이보다 연산 강도가 높은 처리만 피크 성능에 도달합니다.
- A. 연산 강도가 50 미만이므로 피크에는 도달하지 못합니다.
- B. 정답입니다. 2 TB/s × 10 = 20 TFLOPS입니다.
- C. 대역폭을 1 TB/s로 놓고 계산했습니다.