Laquelle des propositions suivantes n'est pas un avantage de l'inférence d'IA effectuée dans le terminal (edge), comme un smartphone, plutôt que sur un serveur dans le cloud ?

Réponse : A. Dans le terminal, un modèle de n'importe quelle taille peut être exécuté sans limite

L'inférence en périphérie offre l'absence de latence de communication, le fonctionnement sans connexion, l'absence d'envoi à l'extérieur de données comme les photos ou la voix, et l'absence de coût serveur. En revanche, la mémoire, la batterie et l'échauffement du terminal sont fortement contraints, et les grands modèles ne s'y exécutent pas tels quels. On les fait fonctionner dans ces contraintes grâce à la quantification, à la distillation vers de petits modèles et à des circuits dédiés à haute efficacité énergétique comme les NPU.