輸入只有1筆（批次大小為1）時，全連接層的計算（權重矩陣與向量的乘積）容易受記憶體限制，其原因下列何者正確？

正確答案：C. 因為權重的每個元素即使從記憶體讀取，也只用於1次乘加，所以運算強度非常低

在矩陣與向量的乘積中，權重矩陣的每個元素只讀取1次，與輸入的一個元素相乘再相加1次而已。以FP16來說，每2位元組只做2次運算，運算強度約為1。讀取權重耗費時間，運算單元幾乎都在等待。若將輸入集中起來（加大批次）讓同一份權重可用於多筆輸入，運算強度就會提高。

• A. 元素的數量並不是受限的原因。
• B. 可以計算，但等待記憶體的時間會變長。
• C. 正確。無法重複使用權重。