AIハードウェアとソフトウェアスタック
ニューロモーフィックコンピューティングで動かすスパイキングニューラルネットワーク(SNN)を、通常のニューラルネットワークの誤差逆伝播法でそのまま学習させにくい主な理由として正しいものはどれか。
- ASNNには重みがないから
- Bスパイクの発生は、しきい値を超えたかどうかで決まる不連続な動作で、微分できないから
- CSNNは推論しかできず、学習という概念がないから
答えと解説を見る
正解:B. スパイクの発生は、しきい値を超えたかどうかで決まる不連続な動作で、微分できないから
SNNの各ニューロンは、入力されたスパイクを膜電位として積み上げ、しきい値を超えるとスパイクを出します。この出力は0か1かが不連続に切り替わるため、誤差逆伝播法に必要な勾配が、ほとんどの点で0になるか定義できません。そこで、学習のときだけスパイクの関数をなめらかな関数で近似した勾配を使う方法や、通常のネットワークで学習してからSNNに変換する方法が研究されています。学習方法の確立は、ニューロモーフィックコンピューティングの課題の一つです。
- A. SNNにもシナプスの重みがあり、それを学習します。
- B. 正しい。不連続な発火が勾配の計算を難しくします。
- C. SNNも学習できますが、方法に工夫が必要です。