ReLU或層正規化這類逐元素運算，在AI的計算中相對於運算次數而言容易耗費時間，其原因下列何者正確？

正確答案：B. 因為相較於讀寫各元素的量，計算很少，所以速度由記憶體頻寬決定

ReLU只是讀取各元素、與0比較後寫入，每個元素的計算極少。由於運算強度非常低，耗費的時間不是由運算單元的效能，而是由記憶體頻寬決定。即使在運算次數上只佔整體的一小部分，在時間上卻可能佔有不可忽視的比例。因此會將它融合到矩陣相乘之後，或把正規化合併為一個kernel，以減少記憶體的讀寫。

• A. 運算次數比矩陣相乘少得多。
• B. 正確。是可藉由融合加速的代表性運算。
• C. 可以在GPU上執行。