AIハードウェアとソフトウェアスタック
AIアクセラレータのデータフローの方式の1つ「ウェイトステーショナリ(重み固定)」の説明として正しいものはどれか。
- A重みを毎回メモリから読み直し、入力を固定する
- B重みを各演算器の中に置いたまま動かさず、入力の値を流して次々と積和を計算し、重みの読み込みを減らす
- C重みを使わずに計算する
答えと解説を見る
正解：B. 重みを各演算器の中に置いたまま動かさず、入力の値を流して次々と積和を計算し、重みの読み込みを減らす
行列の積では、重み・入力・出力のどれを演算器の中に留めて再利用するかで、データの動かし方がいくつかの方式に分かれます。ウェイトステーショナリでは、各演算器に重みを1つずつ読み込んで固定し、そこへ多数の入力を流して積和を続けます。同じ重みを多くの入力に使える畳み込みやバッチの大きい計算で、重みの読み込みのエネルギーを大きく減らせます。
- A. 入力を固定するのは別の方式です。
- B. 正しい。多くのシストリックアレイがこの方式です。
- C. 重みは計算に必要です。