在推論中將批次大小加得過大時的缺點，下列何者正確？

正確答案：A. 等待要集中處理的輸入到齊的時間，以及單次處理的時間增加，使單一請求的回應變慢，也會用掉更多記憶體

加大批次雖然會提高整體處理量（吞吐量），但要等其他輸入湊齊，而且集中處理的部分也使單次計算變長，因此單一請求得到回應的時間（延遲）會變長。中間結果與KV快取的記憶體也會隨批次成正比增加。在對話型應用程式中，是在能守住回應速度目標的範圍內加大批次。

• A. 正確。需要在處理量與回應速度之間取得平衡。
• B. 權重不會改變。
• C. 運算強度反而會上升。