電腦算術
FP16(符號1・指數部分5位元(偏移值15)・尾數10位元)所能表示的最大有限值是多少?
- A32768
- B65536
- C65504
查看答案與解析
正確答案:C. 65504
指數部分全為1(31)是用於無限大與NaN,因此最大的指數部分為30,實際指數為 30 − 15 = 15。當尾數全為1時,值為 (1 + 1 − 2⁻¹⁰) × 2¹⁵ = (2 − 2⁻¹⁰) × 32768 = 65536 − 32 = 65504。超過此值的結果會成為無限大,因此在以FP16訓練時也須留意溢位。32768是尾數為0時的 2¹⁵,65536是 2¹⁶,兩者都不是最大值。
- A. 32768是尾數為0時的2¹⁵。
- B. 65536是2¹⁶,FP16無法表示。
- C. 正確。(2 − 2⁻¹⁰) × 2¹⁵ = 65504。