構造化スパース란?
こうぞうかすぱーす
重みの0を決まった形に並べたスパース。例えば4つの重みのうち2つを0にする2:4のスパースは、行列演算器で約2倍速く計算できる。
일본어 명칭: 構造化スパース
분야: AI 하드웨어·소프트웨어 스택
こうぞうかすぱーす
重みの0を決まった形に並べたスパース。例えば4つの重みのうち2つを0にする2:4のスパースは、行列演算器で約2倍速く計算できる。
일본어 명칭: 構造化スパース
분야: AI 하드웨어·소프트웨어 스택
計算グラフ 勾配チェックポイント 量子化を考慮した学習 逆伝播 演算強度 演算の融合 知識蒸留 推論 推論ランタイム 投機的デコーディング