Computerarithmetiek

Gegevens met een waardebereik van −6,35 tot 6,35 worden gekwantiseerd naar symmetrisch INT8 (−127 tot 127) rond 0. Met de schaal gelijk aan "grootste absolute waarde ÷ 127", door welk geheel getal wordt 1,0 weergegeven?

  1. A1
  2. B127
  3. C20
Antwoord en toelichting tonen

Antwoord: C. 20

De schaal is 6,35 ÷ 127 = 0,05, dus het gehele getal 1 komt overeen met het reële getal 0,05. Om een reële waarde in een geheel getal om te zetten wordt gedeeld door de schaal en afgerond op het dichtstbijzijnde gehele getal: 1,0 ÷ 0,05 = 20. Terugrekenen geeft 20 × 0,05 = 1,0. 1 is de fout waarbij de reële waarde ongewijzigd als geheel getal wordt genomen, en 127 is het gehele getal dat bij de maximale waarde 6,35 hoort. Als er grote uitschieters buiten het bereik zijn, wordt de schaal grof en daalt de precisie, zodat de keuze van de maximale waarde (kalibratie) belangrijk is.

Dit onderwerp oefenen Naar de onderwerppagina

Meer vragen over Computerarithmetiek

  1. Wat is de belangrijkste reden dat in kleine microcontrollers en DSP's vaak vastekommabewerkingen in plaats van drijvendekommabewerkingen worden gebruikt?
  2. Welke combinatie van stapgrootte (resolutie) en bereik is juist voor het 16-bits ondertekende vastekommaformaat Q15 (15 fractiebits)?
  3. Hoe moet het resultaat worden behandeld wanneer twee vastekommagetallen met 8 fractiebits met een vermenigvuldiger voor gehele getallen worden vermenigvuldigd?
  4. Welke uitspraak over verzadigingsrekenkunde (saturating arithmetic), zoals gebruikt in signaalverwerking, is juist?
  5. Welke combinatie van de definities van het generatiesignaal g en het propagatiesignaal p per bitpositie (a en b zijn de ingangen van die positie) en de formule voor de overdracht c(i+1) naar het hogere bit, zoals gebruikt in een carry-lookahead-opteller, is juist?