Was ist INT8?

Eine vorzeichenbehaftete 8-Bit-Ganzzahl (−128 bis 127). In der KI-Inferenz verringert die Quantisierung von Gewichten und Aktivierungen auf INT8 mit einem Skalierungsfaktor Rechenaufwand und Speicherbedarf stark und erlaubt schnelle Verarbeitung auf kleinen Ganzzahl-Schaltungen.

Japanische Bezeichnung: INT8