Nederlands
Menu

Computerarithmetiek

Wat is het belangrijkste voordeel van het omzetten (kwantiseren) van gewichten van FP32 naar INT8 bij AI-inferentie?

  1. ADe rekennauwkeurigheid is altijd hoger dan bij FP32
  2. BDe hoeveelheid data wordt een vierde, en de berekening gaat sneller en zuiniger
  3. CDe modelprestaties nemen altijd toe, ook zonder opnieuw te trainen
Antwoord en toelichting tonen

Antwoord: B. De hoeveelheid data wordt een vierde, en de berekening gaat sneller en zuiniger

Wanneer 32-bits gewichten 8 bit worden, wordt het geheugengebruik en de hoeveelheid uit te lezen data een vierde, wat veel effect heeft bij inferentie met beperkte geheugenbandbreedte. Bovendien zijn vermenigvuldigers voor gehele getallen van 8 bit veel kleiner en zuiniger dan drijvendekommavermenigvuldigers, zodat met hetzelfde oppervlak en vermogen meer bewerkingen mogelijk zijn. Daar staat tegenover dat slechts 256 waarden kunnen worden weergegeven, wat fouten veroorzaakt en de nauwkeurigheid enigszins kan verlagen. De nauwkeurigheid of prestaties nemen niet altijd toe.

Dit onderwerp oefenen Naar de onderwerppagina

Meer vragen over Computerarithmetiek

  1. Gegevens met een waardebereik van −6,35 tot 6,35 worden gekwantiseerd naar symmetrisch INT8 (−127 tot 127) rond 0. Met de schaal gelijk aan "grootste absolute waarde ÷ 127", door welk geheel getal wordt 1,0 weergegeven?
  2. Wat is de belangrijkste reden dat in kleine microcontrollers en DSP's vaak vastekommabewerkingen in plaats van drijvendekommabewerkingen worden gebruikt?
  3. Welke combinatie van stapgrootte (resolutie) en bereik is juist voor het 16-bits ondertekende vastekommaformaat Q15 (15 fractiebits)?
  4. Hoe moet het resultaat worden behandeld wanneer twee vastekommagetallen met 8 fractiebits met een vermenigvuldiger voor gehele getallen worden vermenigvuldigd?
  5. Welke uitspraak over verzadigingsrekenkunde (saturating arithmetic), zoals gebruikt in signaalverwerking, is juist?