Welke uitspraak over het verschil tussen post-training quantization (PTQ) en quantization-aware training (QAT) is juist?

Antwoord: B. PTQ kwantiseert een reeds getraind model zoals het is, en QAT bootst tijdens de training het effect van kwantisatie na en past de gewichten aan zodat de fout ook bij lage precisie klein blijft

Bij post-training quantization worden de gewichten (en activaties) van een volledig getraind model omgezet naar lagere precisie nadat het waardenbereik met een kleine hoeveelheid representatieve data is onderzocht; dit is eenvoudig, maar de nauwkeurigheid neemt gemakkelijker af naarmate het aantal bits kleiner is. Bij quantization-aware training wordt de afronding door kwantisatie in de voorwaartse propagatie van de training nagebootst en worden de gewichten inclusief die fout aangepast, zodat de nauwkeurigheid ook bij lage precisie zoals 4 bits goed behouden blijft.