Computerarithmetiek

Wat is de grootste eindige waarde die FP16 (1 teken, 5 exponentbits (bias 15), 10 mantissebits) kan weergeven?

  1. A32768
  2. B65536
  3. C65504
Antwoord en toelichting tonen

Antwoord: C. 65504

Een exponentveld van alleen enen (31) wordt gebruikt voor oneindig en NaN, dus de grootste exponent is 30 en de werkelijke exponent is 30 − 15 = 15. Wanneer de mantisse uit alleen enen bestaat, is de waarde (1 + 1 − 2⁻¹⁰) × 2¹⁵ = (2 − 2⁻¹⁰) × 32768 = 65536 − 32 = 65504. Een groter resultaat wordt oneindig, zodat bij training in FP16 ook op overflow moet worden gelet. 32768 is 2¹⁵ bij een mantisse van 0 en 65536 is 2¹⁶; geen van beide is het maximum.

Dit onderwerp oefenen Naar de onderwerppagina

Meer vragen over Computerarithmetiek

  1. Hoe worden de twee FP8-formaten E4M3 (exponent 4, mantisse 3 bit) en E5M2 (exponent 5, mantisse 2 bit) gewoonlijk onderscheiden in gebruik?
  2. Wat is het belangrijkste voordeel van het omzetten (kwantiseren) van gewichten van FP32 naar INT8 bij AI-inferentie?
  3. Gegevens met een waardebereik van −6,35 tot 6,35 worden gekwantiseerd naar symmetrisch INT8 (−127 tot 127) rond 0. Met de schaal gelijk aan "grootste absolute waarde ÷ 127", door welk geheel getal wordt 1,0 weergegeven?
  4. Wat is de belangrijkste reden dat in kleine microcontrollers en DSP's vaak vastekommabewerkingen in plaats van drijvendekommabewerkingen worden gebruikt?
  5. Welke combinatie van stapgrootte (resolutie) en bereik is juist voor het 16-bits ondertekende vastekommaformaat Q15 (15 fractiebits)?