AI硬體與軟體堆疊
在將啟動值量化為INT8的訓練後量化中,所進行的「校準(calibration)」之目的,下列何者正確?
- A輸入具代表性的資料,查看各層啟動值的數值範圍,以決定量化的縮放比例
- B精確地對齊GPU時脈的快慢
- C調整螢幕的顏色呈現
查看答案與解析
正確答案:A. 輸入具代表性的資料,查看各層啟動值的數值範圍,以決定量化的縮放比例
權重在訓練結束時數值就已確定,但啟動值的數值會因輸入而改變。因此要輸入數百筆接近實際使用情況的資料,查看各層啟動值所取的數值範圍與分布,決定要讓哪個範圍對應到INT8的-127~127(縮放比例)。若以最大值為準,會因離群值而失去細緻度,因此有時會將範圍稍微縮窄,使分布的大部分能納入其中。
- A. 正確。範圍的決定方式會左右精度。
- B. 不是時脈的調整。
- C. 不是螢幕的調整。