TensorRT或ONNX Runtime這類推論執行環境，比直接用訓練用框架進行推論更快，其主要原因為下列何者？

正確答案：A. 因為會將計算圖最佳化為僅推論所需的形式，進行運算融合、量化、選擇適合硬體的kernel等

訓練用框架重視寫法的靈活性以及為反向傳播所做的記錄，因此只用於推論時會有浪費。推論執行環境載入模型後，會去除推論不需要的部分、融合運算，並視需要將權重或啟動值轉為較低的精度，再為目標GPU或NPU選擇最快的kernel。如此一來，即使是相同的模型，也能大幅降低延遲與記憶體用量。

• A. 正確。不再需要為反向傳播而設的機制。
• B. 並不是省略計算。
• C. 權重的數量不會增加。