AI硬體與軟體堆疊
AI加速器所使用的脈動陣列(systolic array)能有效率地計算矩陣相乘,其主要原因為下列何者?
- A因為各運算單元每次都直接從主記憶體讀取資料
- B因為運算單元只有一個,所以電路單純
- C因為資料依序傳給相鄰的運算單元而重複使用,從記憶體讀取的次數少,能讓大量運算單元同時運作
查看答案與解析
正確答案:C. 因為資料依序傳給相鄰的運算單元而重複使用,從記憶體讀取的次數少,能讓大量運算單元同時運作
在脈動陣列中,資料如脈搏般以固定節奏在排成格狀的乘加運算單元之間流動。讀取一次的值會依序傳給相鄰的運算單元,用於數十次的運算,因此相對於從記憶體讀取的量,能進行非常多的計算。佈線也只需相鄰之間的短線,所以能高密度地排列大量運算單元。
- A. 那樣頻寬會不夠。
- B. 是將大量運算單元排成格狀。
- C. 正確。資料的重複使用是關鍵。