AIコンパイラとは
えーあいこんぱいら
モデルの計算グラフを解析し、演算の融合やデータの並べ方、タイリングなどを最適化して、対象のハードウェア向けのコードを作るソフトウェア。XLAやTVMなど。
この用語の分野: AIハードウェアとソフトウェアスタック
解説の中の「AIコンパイラ」
AIコンパイラは、モデルを演算とデータの流れの計算グラフとして受け取り、まとめられる演算の融合、不要な計算の削除、メモリの並べ方の選択、タイルの大きさの調整などを行い、GPUやNPUなどの対象に合ったカーネルを作ります。
XLAやTVM、PyTorchのコンパイル機能のようなAIコンパイラが行う主な処理として正しいものはどれか。フレームワークやAIコンパイラ・ランタイムが計算グラフを最適化し、行列の積や畳み込みなどは高度に最適化された演算のライブラリのカーネルを呼びます。
AIのソフトウェアスタックを、利用者に近い上の層からハードウェアに近い下の層へ並べたものとして正しいものはどれか。
「AIコンパイラ」が出てくる問題(2問)
関連する用語
計算グラフ GPU NPU(ニューラルプロセッシングユニット) 演算の融合 アテンション MFU 演算強度 オールリデュース ONNX 学習後量子化