Computerarithmetiek

Hoe worden de twee FP8-formaten E4M3 (exponent 4, mantisse 3 bit) en E5M2 (exponent 5, mantisse 2 bit) gewoonlijk onderscheiden in gebruik?

  1. AE4M3 voor gewichten en activaties, E5M2 voor gradiënten
  2. BBeide hebben dezelfde precisie en hetzelfde bereik en worden zonder onderscheid gebruikt
  3. CE4M3 als geheel getal, E5M2 als drijvendekommagetal
Antwoord en toelichting tonen

Antwoord: A. E4M3 voor gewichten en activaties, E5M2 voor gradiënten

De eigenschappen hangen af van hoe de beperkte 8 bit over exponent en mantisse worden verdeeld. E4M3 heeft een mantissebit meer en dus een hogere precisie, maar een smaller bereik; E5M2 heeft een exponentbit meer en dus een breder bereik, maar een lagere precisie. Daarom worden E4M3 gewoonlijk gebruikt voor gewichten en activaties, waarvan de grootte tamelijk gelijkmatig is, en E5M2 voor gradiënten, waarvan de grootte sterk uiteenloopt. Beide zijn drijvendekommaformaten en geen gehele getallen.

Dit onderwerp oefenen Naar de onderwerppagina

Meer vragen over Computerarithmetiek

  1. Wat is het belangrijkste voordeel van het omzetten (kwantiseren) van gewichten van FP32 naar INT8 bij AI-inferentie?
  2. Gegevens met een waardebereik van −6,35 tot 6,35 worden gekwantiseerd naar symmetrisch INT8 (−127 tot 127) rond 0. Met de schaal gelijk aan "grootste absolute waarde ÷ 127", door welk geheel getal wordt 1,0 weergegeven?
  3. Wat is de belangrijkste reden dat in kleine microcontrollers en DSP's vaak vastekommabewerkingen in plaats van drijvendekommabewerkingen worden gebruikt?
  4. Welke combinatie van stapgrootte (resolutie) en bereik is juist voor het 16-bits ondertekende vastekommaformaat Q15 (15 fractiebits)?
  5. Hoe moet het resultaat worden behandeld wanneer twee vastekommagetallen met 8 fractiebits met een vermenigvuldiger voor gehele getallen worden vermenigvuldigd?