GPUプログラミング
最近のGPUに搭載されているテンソルコア(行列演算ユニット)の特徴として正しいものはどれか。
- A小さな行列どうしの積和を1つの命令でまとめて計算し、主に低い精度の数値でAIの計算を大幅に速くする
- Bテンソルという物理量を測るセンサである
- Cグラフィックスの影を描く専用の回路である
答えと解説を見る
正解：A. 小さな行列どうしの積和を1つの命令でまとめて計算し、主に低い精度の数値でAIの計算を大幅に速くする
テンソルコアは、例えば4×4や16×16のような小さな行列の掛け算と足し算を、1つの命令で一度に行う演算器です。普通の演算器で1回ずつ掛け算と足し算を行うより、同じ面積と電力で何倍もの計算ができます。FP16やBF16、FP8、INT8などの低い精度で使うことが多く、ニューラルネットワークの学習と推論の大部分を占める行列の積を大きく速くします。
- A. 正しい。行列の積に特化した演算器です。
- B. センサではありません。
- C. 影の描画のための回路ではありません。