AIハードウェアとソフトウェアスタック
ニューラルネットワークのプルーニング(枝刈り)について正しいものはどれか。
- A重要でない重みを0にして減らす方法で、ばらばらに0にする非構造化の方式は、ハードウェアで速くしにくい
- B重みを増やして、モデルの精度を必ず上げる方法である
- C学習のデータを減らす方法である
答えと解説を見る
正解：A. 重要でない重みを0にして減らす方法で、ばらばらに0にする非構造化の方式は、ハードウェアで速くしにくい
プルーニングは、値が小さいなど影響の少ない重みを0にして、計算やメモリを減らす方法です。しかし0がばらばらに散らばると、どこが0かを調べる手間がかかり、行列の演算器やメモリはまとまった単位で動くので、実際にはあまり速くなりません。チャネルや層ごと、または決まった形で0にする構造化のプルーニングなら、ハードウェアで速くしやすくなります。
- A. 正しい。決まった形で0にする構造化の方式もあります。
- B. 重みを減らす方法です。
- C. 減らすのはデータではなく重みです。