量子化を考慮した学習とは
りょうしかをこうりょしたがくしゅう
学習の中で量子化による丸めをまねて、その誤差を含めて重みを調整する方法。QAT。低いビット数でも精度を保ちやすい。
この用語の分野: AIハードウェアとソフトウェアスタック
解説の中の「量子化を考慮した学習」
量子化を考慮した学習は、学習の順伝播で量子化による丸めをまねて、その誤差を含めて重みを調整するので、4ビットのような低い精度でも精度を保ちやすくなります。
学習後量子化(PTQ)と、量子化を考慮した学習(QAT)の違いとして正しいものはどれか。
「量子化を考慮した学習」が出てくる問題(1問)
関連する用語
学習後量子化 アテンション AIコンパイラ MFU 演算強度 演算の融合 オールリデュース ONNX 逆伝播 計算グラフ