AI硬體與軟體堆疊
在神經型態運算中執行的脈衝神經網路(SNN),難以直接用一般神經網路的反向傳播法訓練,其主要原因下列何者正確?
- ASNN沒有權重
- B脈衝的產生取決於是否超過臨界值,是不連續的動作,無法微分
- CSNN只能推論,沒有訓練的概念
查看答案與解析
正確答案:B. 脈衝的產生取決於是否超過臨界值,是不連續的動作,無法微分
SNN的每個神經元把輸入的脈衝累積為膜電位,超過臨界值時發出脈衝。這個輸出在0與1之間不連續地切換,因此反向傳播所需的梯度幾乎處處為0或無法定義。所以研究人員在訓練時以平滑函數近似脈衝函數的梯度,或先訓練一般網路再轉換成SNN。建立訓練方法是神經型態運算的課題之一。
- A. SNN也有突觸權重,訓練的正是這些權重。
- B. 正確。不連續的發火使梯度難以計算。
- C. SNN可以訓練,但需要特別的方法。
繼續練習AI硬體與軟體堆疊的另外9題