電腦算術

FP16(符號1・指數部分5位元(偏移值15)・尾數10位元)所能表示的最大有限值是多少?

  1. A32768
  2. B65536
  3. C65504
查看答案與解析

正確答案:C. 65504

指數部分全為1(31)是用於無限大與NaN,因此最大的指數部分為30,實際指數為 30 − 15 = 15。當尾數全為1時,值為 (1 + 1 − 2⁻¹⁰) × 2¹⁵ = (2 − 2⁻¹⁰) × 32768 = 65536 − 32 = 65504。超過此值的結果會成為無限大,因此在以FP16訓練時也須留意溢位。32768是尾數為0時的 2¹⁵,65536是 2¹⁶,兩者都不是最大值。

  • A. 32768是尾數為0時的2¹⁵。
  • B. 65536是2¹⁶,FP16無法表示。
  • C. 正確。(2 − 2⁻¹⁰) × 2¹⁵ = 65504。
練習這個領域 前往領域頁面

電腦算術的其他題目

  1. 關於FP8的兩種格式E4M3(指數部分4・尾數3位元)與E5M2(指數部分5・尾數2位元)的使用區分,下列何者是一般作法?
  2. 在AI推論中,將權重從FP32轉換(量化)為INT8的主要優點為下列何者?
  3. 將值域為 −6.35~6.35 的資料,量化為以0為中心的對稱INT8(−127~127)。若比例(scale)定為「最大絕對值 ÷ 127」,則1.0會以哪個整數表示?
  4. 在小型微控制器或DSP中,經常使用定點數而非浮點數運算,其主要理由為下列何者?
  5. 16位元有號定點數的Q15格式(小數部分15位元),其可表示值的間隔(解析度)與範圍的組合,下列何者正確?