AIハードウェアとソフトウェアスタック
活性化をINT8に量子化する学習後量子化で行う「キャリブレーション」の目的として正しいものはどれか。
- A代表的な入力のデータを流して各層の活性化の値の範囲を調べ、量子化のスケールを決める
- BGPUの時計の進み方を正確に合わせる
- C画面の色の見え方を調整する
答えと解説を見る
正解：A. 代表的な入力のデータを流して各層の活性化の値の範囲を調べ、量子化のスケールを決める
重みは学習が終われば値が決まっていますが、活性化の値は入力によって変わります。そこで、実際の使い方に近い入力を数百件ほど流して、各層の活性化がとる値の範囲や分布を調べ、どの範囲をINT8の-127〜127に対応させるか(スケール)を決めます。最大値にそろえると外れ値のために細かさが失われるので、分布の大部分が入るように範囲を少し狭くすることもあります。
- A. 正しい。範囲の決め方が精度を左右します。
- B. 時計の調整ではありません。
- C. 画面の調整ではありません。