KI-Hardware und Software-Stack

Welche Aussage zum „Berechnungsgraphen“ in KI-Frameworks und -Compilern ist richtig?

  1. AEin Liniendiagramm, das die KI-Leistung über die Jahre zeigt
  2. BEin Diagramm, das den Verlauf der Verlustwerte beim Training zeigt
  3. CEin Diagramm, das die Berechnung eines Modells darstellt, mit Operationen als Knoten und der Weitergabe von Daten (Tensoren) als Pfeilen
Antwort und Erläuterung anzeigen

Antwort: C. Ein Diagramm, das die Berechnung eines Modells darstellt, mit Operationen als Knoten und der Weitergabe von Daten (Tensoren) als Pfeilen

Der Berechnungsgraph ist der Bauplan der Modellberechnung: Operationen wie Matrixprodukt, Addition und Aktivierungsfunktion sind die Knoten, die dazwischen fließenden Tensoren die Pfeile. Das Framework durchläuft diesen Graphen rückwärts, um die Gradienten des Backward Pass automatisch zu berechnen, und der Compiler optimiert anhand des gesamten Graphen durch Fusion und Umordnung. Aus dem Graphen ist auch ersichtlich, welche Operationen unabhängig voneinander parallel ausgeführt werden können.

Dieses Thema üben Zur Themenseite

Weitere Fragen zu KI-Hardware und Software-Stack

  1. Welche Aussage zu ONNX ist richtig?
  2. Warum können Inferenz-Laufzeitumgebungen wie TensorRT oder ONNX Runtime schneller sein als die unveränderte Inferenz mit dem Trainings-Framework?
  3. Warum benötigen elementweise Operationen wie ReLU oder Layer-Normalisierung in KI-Berechnungen im Verhältnis zur Zahl ihrer Operationen leicht viel Zeit?
  4. Warum wird die Faltung in Convolutional Neural Networks mitunter mit Verfahren wie im2col in ein Matrixprodukt umgewandelt?
  5. Welche Aussage zum Unterschied zwischen Post-Training Quantization (PTQ) und Quantization-Aware Training (QAT) ist richtig?