Diagram dat de berekening van een model weergeeft, met bewerkingen als knopen en de doorgifte van tensors als pijlen. Basis voor automatische differentiatie en optimalisaties van AI-compilers.
Japanse benaming: 計算グラフ
“Rekengraaf (computational graph)” komt voor in 4 oefenvragen uit 1 onderwerpen, bijv. AI-hardware en softwarestack.
Vakgebied: AI-hardware en softwarestack
Antwoord: C. Een diagram dat de berekening van het model weergeeft met bewerkingen als knopen en de overdracht van data (tensoren) als pijlen
Een rekengraaf is het ontwerp van de berekening van een model, met bewerkingen zoals matrixproduct, optelling en activatiefunctie als knopen en de tensoren daartussen als pijlen. Het framework doorloopt deze graaf in omgekeerde richting om de gradiënten voor backpropagation automatisch te berekenen, en de compiler bekijkt de hele graaf voor optimalisaties zoals fusion en herordening. Uit de graaf blijkt ook welke bewerkingen onafhankelijk en parallel kunnen worden uitgevoerd.
Een rekengraaf is het ontwerp van de berekening van een model, met bewerkingen zoals matrixproduct, optelling en activatiefunctie als knopen en de tensoren daartussen als pijlen.
Welke uitspraak over de "rekengraaf" (computational graph) …Een AI-compiler neemt het model als rekengraaf van bewerkingen en datastromen, voegt bewerkingen samen waar dat kan, verwijdert overbodige berekeningen, kiest de geheugenopstelling, stelt tilegroottes af enz., en genereert kernels die bij het doel, zoals een GPU of NPU, passen.
Welke uitspraak over de belangrijkste taak van AI-compilers…ONNX (Open Neural Network Exchange) is een standaard om de rekengraaf en gewichten van een model in een gemeenschappelijk formaat weer te geven.
Welke uitspraak over ONNX is juist?Het framework en de AI-compiler of runtime optimaliseren de rekengraaf en voor matrixproducten en convoluties worden kernels van sterk geoptimaliseerde bewerkingenbibliotheken aangeroepen.
Welke volgorde van de AI-softwarestack, van de bovenste laa…AI-compiler GPU NPU (neural processing unit) ONNX Inferentie (inference) Via All-reduce Attention Backpropagatie Batchgrootte