Computerarithmetiek
Gegevens met een waardebereik van −6,35 tot 6,35 worden gekwantiseerd naar symmetrisch INT8 (−127 tot 127) rond 0. Met de schaal gelijk aan "grootste absolute waarde ÷ 127", door welk geheel getal wordt 1,0 weergegeven?
- A1
- B127
- C20
Antwoord en toelichting tonen
Antwoord: C. 20
De schaal is 6,35 ÷ 127 = 0,05, dus het gehele getal 1 komt overeen met het reële getal 0,05. Om een reële waarde in een geheel getal om te zetten wordt gedeeld door de schaal en afgerond op het dichtstbijzijnde gehele getal: 1,0 ÷ 0,05 = 20. Terugrekenen geeft 20 × 0,05 = 1,0. 1 is de fout waarbij de reële waarde ongewijzigd als geheel getal wordt genomen, en 127 is het gehele getal dat bij de maximale waarde 6,35 hoort. Als er grote uitschieters buiten het bereik zijn, wordt de schaal grof en daalt de precisie, zodat de keuze van de maximale waarde (kalibratie) belangrijk is.