AIハードウェアとソフトウェアスタック
GPUの行列演算器が対応している「2:4の構造化スパース」の説明として正しいものはどれか。
- A重みを4つずつの組に分け、各組で2つを0にする決まった形のスパースで、行列演算器が0を飛ばして最大で約2倍速く計算できる
- B重みの4分の2を、毎回ランダムに選んで計算する
- C行列を2行4列に分けて計算する
答えと解説を見る
正解：A. 重みを4つずつの組に分け、各組で2つを0にする決まった形のスパースで、行列演算器が0を飛ばして最大で約2倍速く計算できる
2:4のスパースでは、続いた4つの重みのうち必ず2つが0になるように学習や調整を行います。0でない2つの値と、その位置を示す小さな情報だけを持てばよいので、メモリが減り、行列演算器は0の掛け算を飛ばして約2倍の速さで計算できます。決まった形にしたことで、ばらばらのスパースでは難しいハードウェアでの高速化が実現しました。
- A. 正しい。0の位置を小さな情報で表せます。
- B. ランダムに選ぶわけではありません。
- C. 行列の分け方の話ではありません。