CPU und Architektur
Welche Spezialschaltung wird in SoCs für Smartphones usw. verbaut, um KI-Inferenz schnell und mit geringer Leistungsaufnahme auszuführen?
- APLL (Phasenregelschleife)
- BAD-Wandler
- CNPU (Neural Processing Unit)
Antwort und Erläuterung anzeigen
Antwort: C. NPU (Neural Processing Unit)
Die NPU ist eine Spezialschaltung, die die Multiply-Accumulate-Operationen, die den Großteil der Berechnungen neuronaler Netze ausmachen, mit niedriger Genauigkeit (z. B. Ganzzahlen mit höchstens 8 Bit) massiv parallel verarbeitet. Ihre Leistung pro Leistungsaufnahme liegt mehr als eine Größenordnung über der von Allzweck-CPUs, sodass Bildkorrektur, Spracherkennung und Übersetzung direkt im Smartphone erfolgen können. Die Leistung wird in TOPS (Billionen Operationen pro Sekunde) angegeben, und NPUs finden sich zunehmend auch in SoCs für PCs.