AIハードウェアとソフトウェアスタック
AI向けのアクセラレータで使われるシストリックアレイが、行列の積を効率よく計算できる主な理由はどれか。
- A各演算器が毎回メインメモリから直接データを読むから
- B演算器が1つしかないので、回路が単純だから
- Cデータを隣の演算器へ順に渡して使い回すので、メモリから読み出す回数が少なく、多数の演算器を同時に動かせるから
答えと解説を見る
正解：C. データを隣の演算器へ順に渡して使い回すので、メモリから読み出す回数が少なく、多数の演算器を同時に動かせるから
シストリックアレイでは、格子状に並べた積和の演算器の間をデータが拍動のように一定のリズムで流れます。一度読み込んだ値は隣の演算器へ次々と渡され、何十回もの演算に使われるので、メモリから読む量に比べて非常に多くの計算ができます。配線も隣どうしの短いものだけで済むので、多数の演算器を高い密度で並べられます。
- A. それでは帯域が足りなくなります。
- B. 多数の演算器を格子状に並べます。
- C. 正しい。データの再利用が鍵です。