計算機算術
FP16(符号1・指数部5ビット(バイアス15)・仮数10ビット)で表せる最大の有限の値はいくらか。
- A32768
- B65536
- C65504
答えと解説を見る
正解：C. 65504
指数部のすべて1(31)は無限大とNaNに使われるので、最大の指数部は30で、実際の指数は 30 − 15 = 15 です。仮数がすべて1のとき、値は (1 + 1 − 2⁻¹⁰) × 2¹⁵ = (2 − 2⁻¹⁰) × 32768 = 65536 − 32 = 65504 になります。これを超える結果は無限大になるため、FP16での学習ではオーバーフローにも注意が必要です。32768は仮数が0のときの 2¹⁵、65536は 2¹⁶ で、どちらも最大値ではありません。
- A. 32768は仮数が0のときの2¹⁵です。
- B. 65536は2¹⁶で、FP16では表せません。
- C. 正しい。(2 − 2⁻¹⁰) × 2¹⁵ = 65504です。