什麼是AI 編譯器(AI compiler)

分析模型的計算圖,對運算融合、資料排列方式與分塊(tiling)等進行最佳化,產生適用於目標硬體之程式碼的軟體。例如 XLA 與 TVM。

日文名稱: AIコンパイラ

這個名詞所屬的領域: AI硬體與軟體堆疊

相關名詞

反向傳播(Backpropagation) 全歸約(All-reduce) 批次大小(Batch size) 注意力機制(Attention mechanism) 知識蒸餾(Knowledge distillation) 計算圖(Computational graph) 訓練後量化(Post-training quantization) 剪枝(Pruning) 張量平行(Tensor parallelism) 推測式解碼(Speculative decoding)

前往名詞解釋列表