電腦算術
將值域為 −6.35～6.35 的資料，量化為以0為中心的對稱INT8（−127～127）。若比例（scale）定為「最大絕對值 ÷ 127」，則1.0會以哪個整數表示？
- A1
- B127
- C20
查看答案與解析
正確答案：C. 20
比例為 6.35 ÷ 127 = 0.05，整數的1相當於實數的0.05。要將實數的值轉為整數，須除以比例後捨入至最接近的整數，因此 1.0 ÷ 0.05 = 20。還原時則是 20 × 0.05 = 1.0。1是把實數的值直接當作整數的錯誤，127則是對應於最大值6.35的整數。若範圍內的離群值很大，比例會變得粗糙而使精度下降，因此最大值的決定方式（校準）很重要。
- A. 1是把實數的值直接當作整數的錯誤。
- B. 127是對應於最大值6.35的整數。
- C. 正確。除以比例0.05後為20。