TOPSとは
とっぷす
1秒あたりの演算の回数を兆(テラ)の単位で表したAIのアクセラレータの性能の指標。多くは低い精度で数えた理論上の最大値。
この用語の分野: AIハードウェアとソフトウェアスタック
解説の中の「TOPS」
TOPS(1秒あたりの兆回の演算)は、全部の演算器が休みなく動いたときの理論上の値で、多くはINT8やそれより低い精度で数えられ、スパースを使った場合の値のこともあります。
AIのアクセラレータの性能として示される「○○ TOPS」という値について注意すべき点として正しいものはどれか。性能はTOPS(1秒あたりの兆回の演算)で表され、パソコン向けのSoCにも搭載が広がっています。
AIの推論処理を高速かつ低い消費電力で行うために、スマートフォン用のSoCなどに搭載される専用回路はどれか。
「TOPS」が出てくる問題(2問)
関連する用語
INT8 推論 SoC(システムオンチップ) NPU(ニューラルプロセッシングユニット) アテンション AIコンパイラ MFU 演算強度 演算の融合 オールリデュース