KI-Hardware und Software-Stack
Welche Aussage zur Hauptaufgabe von KI-Compilern wie XLA, TVM oder der Compile-Funktion von PyTorch ist richtig?
- ASie übersetzen die Antworten eines KI-Modells in menschliche Sprache
- BSie sammeln automatisch Trainingsdaten
- CSie analysieren den Berechnungsgraphen des Modells, optimieren Operator-Fusion, Datenanordnung und Tiling und erzeugen Code für die Zielhardware
Antwort und Erläuterung anzeigen
Antwort: C. Sie analysieren den Berechnungsgraphen des Modells, optimieren Operator-Fusion, Datenanordnung und Tiling und erzeugen Code für die Zielhardware
Ein KI-Compiler übernimmt das Modell als Berechnungsgraphen aus Operationen und Datenflüssen, fusioniert zusammenfassbare Operationen, entfernt überflüssige Berechnungen, wählt die Speicheranordnung und stellt die Kachelgröße ein; daraus erzeugt er zur Zielhardware wie GPU oder NPU passende Kernels. Da sich für dasselbe Modell je Hardware automatisch optimaler Code erzeugen lässt, verringert sich der Aufwand manueller Optimierung erheblich.