Quel circuit dédié, intégré notamment aux SoC de smartphones, réalise l'inférence d'IA rapidement et avec une faible consommation ?

Réponse : C. NPU (unité de traitement neuronal)

Le NPU est un circuit dédié qui traite massivement en parallèle, en basse précision comme les entiers de 8 bits ou moins, les multiplications-accumulations qui constituent l'essentiel du calcul des réseaux de neurones. Ses performances par watt dépassent d'au moins un ordre de grandeur celles d'un processeur généraliste, ce qui permet de traiter dans le smartphone la retouche photo, la reconnaissance vocale ou la traduction. Ses performances s'expriment en TOPS (billions d'opérations par seconde), et son intégration s'étend aux SoC pour PC.