AI硬體與軟體堆疊

AI加速器所使用的脈動陣列(systolic array)能有效率地計算矩陣相乘,其主要原因為下列何者?

  1. A因為各運算單元每次都直接從主記憶體讀取資料
  2. B因為運算單元只有一個,所以電路單純
  3. C因為資料依序傳給相鄰的運算單元而重複使用,從記憶體讀取的次數少,能讓大量運算單元同時運作
查看答案與解析

正確答案:C. 因為資料依序傳給相鄰的運算單元而重複使用,從記憶體讀取的次數少,能讓大量運算單元同時運作

在脈動陣列中,資料如脈搏般以固定節奏在排成格狀的乘加運算單元之間流動。讀取一次的值會依序傳給相鄰的運算單元,用於數十次的運算,因此相對於從記憶體讀取的量,能進行非常多的計算。佈線也只需相鄰之間的短線,所以能高密度地排列大量運算單元。

  • A. 那樣頻寬會不夠。
  • B. 是將大量運算單元排成格狀。
  • C. 正確。資料的重複使用是關鍵。
練習這個領域 前往領域頁面

AI硬體與軟體堆疊的其他題目

  1. AI加速器有時會在晶片上搭載大容量的SRAM(數十~數百MB),其主要原因為下列何者?
  2. 關於AI加速器資料流方式之一的「權重固定(weight stationary)」,下列說明何者正確?
  3. 在智慧型手機等裝置內(邊緣)而非雲端伺服器進行AI推論的優點,下列何者「不」適用?
  4. 智慧型手機SoC上搭載的NPU,在AI推論上比CPU電力效率高,其主要原因為下列何者?
  5. 關於AI加速器效能所標示的「○○ TOPS」這個數值,應注意的地方下列何者正確?