AI硬體與軟體堆疊

神經型態運算的硬體能以低功耗為目標的主要原因,下列何者正確?

  1. A所有神經元都以高時脈頻率持續同時運作
  2. B所有計算都以64位元浮點數進行
  3. C採事件驅動,只有收到脈衝的部分才動作,並把保存權重的記憶體放在運算旁邊,減少資料搬移
查看答案與解析

正確答案:C. 採事件驅動,只有收到脈衝的部分才動作,並把保存權重的記憶體放在運算旁邊,減少資料搬移

神經型態運算以大腦神經迴路為範本,以稱為脈衝的訊號傳遞資訊。只有在輸入變化、收到脈衝的部分才動作,因此在稀疏的工作中,閒置電路幾乎不耗電。突觸權重保存在各核心內的記憶體中,減少與運算單元之間的長距離資料搬移。這些特點是它與同步進行密集矩陣運算之GPU的差異。

  • A. 持續同步運作反而會增加功耗。
  • B. 高精度的數值格式會使功耗增加。
  • C. 正確。事件驅動以及記憶體與運算相鄰是原因。
練習這個領域 前往領域頁面

相關計算工具

AI硬體與軟體堆疊的其他題目

  1. 在神經型態運算中執行的脈衝神經網路(SNN),難以直接用一般神經網路的反向傳播法訓練,其主要原因下列何者正確?
  2. 關於神經網路的「訓練」與「推論」之差異,下列何者正確?
  3. 下列何者「不是」訓練所需記憶體遠大於同一模型推論的原因?
  4. 以FP32(4位元組)持有權重、梯度與Adam的兩個狀態,來訓練參數量70億(7B)的模型。排除啟動值後,所需記憶體最接近下列何者?
  5. 若以FP16(2位元組)持有參數量70億(7B)的模型權重,權重的記憶體大約是多少?

這個領域的比較