AI硬體與軟體堆疊

計算M×K矩陣與K×N矩陣的乘積時,浮點運算的次數(乘法與加法分開計算)大約是多少?

  1. AMNK
  2. BM+N+K
  3. C2MNK
查看答案與解析

正確答案:C. 2MNK

結果矩陣有M×N個元素,每個元素是長度為K的內積,因此需要K次乘法與K次加法(約K次)。合計約為2MNK次運算。AI的計算量常以此式估算,效能則以每秒的運算次數(FLOPS)表示。若將乘加視為1次,則會減半為MNK,因此要注意對方是以哪一種方式計算。

  • A. 這是將乘加視為1次時的次數。
  • B. 運算次數會多得多。
  • C. 正確。每個元素各進行K次乘法與加法。
練習這個領域 前往領域頁面

AI硬體與軟體堆疊的其他題目

  1. 計算N×N的FP16(2位元組)矩陣相乘,兩個輸入各讀取1次,結果寫入1次。運算強度(每位元組的運算數)大約是多少?
  2. 以尖峰效能100 TFLOPS、記憶體頻寬2 TB/s的加速器執行運算強度為10 FLOP/位元組的處理。以Roofline模型估算,可達成的效能為何?
  3. 輸入只有1筆(批次大小為1)時,全連接層的計算(權重矩陣與向量的乘積)容易受記憶體限制,其原因下列何者正確?
  4. 在推論中加大批次大小(一次處理的輸入數量),整體效率容易提升,其原因為下列何者?
  5. 在推論中將批次大小加得過大時的缺點,下列何者正確?