計算機算術
値の範囲が −6.35〜6.35 のデータを、0を中心にした対称なINT8(−127〜127)に量子化する。スケールを「最大の絶対値 ÷ 127」とすると、1.0 はどの整数で表されるか。
- A1
- B127
- C20
答えと解説を見る
正解：C. 20
スケールは 6.35 ÷ 127 = 0.05 で、整数の1が実数の0.05に相当します。実数の値を整数にするには、スケールで割って最も近い整数に丸めるので、1.0 ÷ 0.05 = 20 になります。元に戻すときは 20 × 0.05 = 1.0 です。1は実数の値をそのまま整数にした誤りで、127は最大値の6.35に対応する整数です。範囲の外れ値が大きいとスケールが粗くなり精度が落ちるため、最大値の決め方(較正)が重要です。
- A. 1は実数の値をそのまま整数にした誤りです。
- B. 127は最大値の6.35に対応する整数です。
- C. 正しい。スケール0.05で割ると20です。