学習後量子化란?

がくしゅうごりょうしか

学習が終わったモデルの重みや活性化を、代表的なデータで値の範囲を調べてから低い精度に変える方法。PTQ。

일본어 명칭: 学習後量子化

분야: AI 하드웨어·소프트웨어 스택