TOPS란?

とっぷす

1秒あたりの演算の回数を兆(テラ)の単位で表したAIのアクセラレータの性能の指標。多くは低い精度で数えた理論上の最大値。

일본어 명칭: TOPS

TOPS은(는) AI 하드웨어·소프트웨어 스택, CPU와 아키텍처 등 2개 분야의 연습 문제 2개에 나와요.

분야: AI 하드웨어·소프트웨어 스택

도전해 보기: TOPS 관련 문제

AI 가속기의 성능으로 제시되는 '○○ TOPS'라는 값에 대해 주의할 점으로 올바른 것은 무엇인가?

  1. A대부분 INT8 등 낮은 정밀도로 센 이론상 최댓값이며, 실제 모델에서의 속도는 메모리 대역폭이나 연산기 이용률에 따라 크게 달라진다
  2. BTOPS가 2배이면 어떤 모델이든 반드시 2배 빠르게 동작한다
  3. CTOPS는 메모리 용량을 나타내는 값이다
정답과 해설 보기

정답: A. 대부분 INT8 등 낮은 정밀도로 센 이론상 최댓값이며, 실제 모델에서의 속도는 메모리 대역폭이나 연산기 이용률에 따라 크게 달라진다

TOPS(초당 조 회의 연산)는 모든 연산기가 쉬지 않고 동작했을 때의 이론상 값으로, 대부분 INT8이나 그보다 낮은 정밀도로 세며 스파스를 사용한 경우의 값일 때도 있습니다. 실제 모델에서는 메모리 대역폭에 율속되거나, 연산기가 놀거나, 지원하지 않는 연산을 다른 회로에서 수행하기도 하므로 실효 성능은 훨씬 낮아질 수 있습니다. 제품을 비교할 때는 같은 조건의 실측값을 보는 것이 중요합니다.

해설 속 TOPS

TOPS이(가) 나오는 문제 (2)

  1. AI 가속기의 성능으로 제시되는 '○○ TOPS'라는 값에 대해 주의할 점으로 올바른 것은 무엇인가?
  2. AI 추론 처리를 고속·저전력으로 수행하기 위해 스마트폰용 SoC 등에 탑재되는 전용 회로는?

관련 용어

INT8 SoC(システムオンチップ) NPU(ニューラルプロセッシングユニット) 計算グラフ 勾配チェックポイント 構造化スパース 量子化を考慮した学習 逆伝播 演算強度 演算の融合

용어집으로 돌아가기