AI硬體與軟體堆疊
將AI的軟體堆疊從貼近使用者的上層,依序排列到貼近硬體的下層,下列何者正確?
- A框架(PyTorch等)→ 編譯器與執行環境 → 運算函式庫(cuBLAS等)→ 驅動程式 → 硬體
- B硬體 → 框架 → 驅動程式 → 函式庫
- C驅動程式 → 框架 → 硬體 → 編譯器
查看答案與解析
正確答案:A. 框架(PyTorch等)→ 編譯器與執行環境 → 運算函式庫(cuBLAS等)→ 驅動程式 → 硬體
使用者以PyTorch等框架撰寫模型。框架與AI編譯器、執行環境將計算圖最佳化,矩陣相乘或卷積等則呼叫高度最佳化的運算函式庫的kernel。函式庫透過驅動程式向GPU或NPU下達指令。新硬體要被廣泛採用,不僅需要運算單元的效能,這些層層堆疊的軟體是否齊備也不可或缺。
- A. 正確。各層隱藏了下一層的差異。
- B. 順序不對。
- C. 順序不對。