AI-hardware en softwarestack
Welke uitspraak over de "rekengraaf" (computational graph) in AI-frameworks en -compilers is juist?
- AEen lijngrafiek van de AI-prestaties per jaar
- BEen grafiek van de verandering van de verliesfunctie bij training
- CEen diagram dat de berekening van het model weergeeft met bewerkingen als knopen en de overdracht van data (tensoren) als pijlen
Antwoord en toelichting tonen
Antwoord: C. Een diagram dat de berekening van het model weergeeft met bewerkingen als knopen en de overdracht van data (tensoren) als pijlen
Een rekengraaf is het ontwerp van de berekening van een model, met bewerkingen zoals matrixproduct, optelling en activatiefunctie als knopen en de tensoren daartussen als pijlen. Het framework doorloopt deze graaf in omgekeerde richting om de gradiënten voor backpropagation automatisch te berekenen, en de compiler bekijkt de hele graaf voor optimalisaties zoals fusion en herordening. Uit de graaf blijkt ook welke bewerkingen onafhankelijk en parallel kunnen worden uitgevoerd.