AI硬體與軟體堆疊
計算N×N的FP16（2位元組）矩陣相乘，兩個輸入各讀取1次，結果寫入1次。運算強度（每位元組的運算數）大約是多少？
- A1/3
- BN/3
- C3N
查看答案與解析
正確答案：B. N/3
運算數為2N³，記憶體的讀寫是3個矩陣共3N²個元素，FP16下為6N²位元組。運算強度為2N³÷6N²＝N/3，N＝1024時約為340。矩陣相乘越大，每位元組所對應的計算就越多，因此是容易發揮運算單元效能的處理。另一方面，逐元素相加這類處理的運算強度小於1，速度由記憶體頻寬決定。
- A. 它會隨N成正比增大。
- B. 正確。2N³÷6N²＝N/3。
- C. 高估了運算數。