Daten im Wertebereich −6.35 bis 6.35 werden auf ein um 0 symmetrisches INT8 (−127 bis 127) quantisiert. Mit dem Skalierungsfaktor „größter Betrag ÷ 127“: Durch welche ganze Zahl wird 1.0 dargestellt?

Antwort: C. 20

Der Skalierungsfaktor ist 6.35 ÷ 127 = 0.05, die ganze Zahl 1 entspricht also dem reellen Wert 0.05. Zur Umwandlung eines reellen Werts in eine ganze Zahl wird durch den Skalierungsfaktor geteilt und auf die nächste ganze Zahl gerundet: 1.0 ÷ 0.05 = 20. Zurückgerechnet ist 20 × 0.05 = 1.0. 1 wäre der reelle Wert unmittelbar als ganze Zahl, 127 ist die ganze Zahl zum Maximalwert 6.35. Bei großen Ausreißern im Bereich wird der Skalierungsfaktor grob und die Genauigkeit sinkt, weshalb die Bestimmung des Maximalwerts (Kalibrierung) wichtig ist.