計算グラフとは
けいさんぐらふ
演算を節、テンソルの受け渡しを矢印として、モデルの計算を表した図。自動微分やAIコンパイラの最適化の土台になる。
この用語の分野: AIハードウェアとソフトウェアスタック
けいさんぐらふ
演算を節、テンソルの受け渡しを矢印として、モデルの計算を表した図。自動微分やAIコンパイラの最適化の土台になる。
この用語の分野: AIハードウェアとソフトウェアスタック
計算グラフは、行列の積、足し算、活性化関数などの演算を節に、それらの間を流れるテンソルを矢印にした、モデルの計算の設計図です。
AIのフレームワークやコンパイラで使われる「計算グラフ」の説明として正しいものはどれか。AIコンパイラは、モデルを演算とデータの流れの計算グラフとして受け取り、まとめられる演算の融合、不要な計算の削除、メモリの並べ方の選択、タイルの大きさの調整などを行い、GPUやNPUなどの対象に合ったカーネルを作ります。
XLAやTVM、PyTorchのコンパイル機能のようなAIコンパイラが行う主な処理として正しいものはどれか。ONNX(Open Neural Network Exchange)は、モデルの計算グラフと重みを共通の形式で表すための規格です。
ONNXの説明として正しいものはどれか。AIコンパイラ GPU NPU(ニューラルプロセッシングユニット) 逆伝播 演算の融合 ONNX 推論ランタイム 推論 アテンション MFU