Quelle différence entre la quantification post-entraînement (PTQ) et l'entraînement tenant compte de la quantification (QAT) est correcte ?

Réponse : B. La PTQ quantifie directement un modèle entraîné ; la QAT simule l'effet de la quantification pendant l'entraînement et ajuste les poids pour limiter l'erreur en précision réduite

La quantification post-entraînement réduit la précision des poids (et des activations) d'un modèle entraîné après avoir examiné les plages de valeurs sur une petite quantité de données représentatives ; elle est simple, mais la précision chute d'autant plus que le nombre de bits diminue. L'entraînement tenant compte de la quantification simule l'arrondi de quantification dans la propagation avant et ajuste les poids en intégrant cette erreur ; la précision est ainsi mieux préservée même avec une faible précision comme 4 bits.