AI-hardware en softwarestack
Welke uitspraak over de belangrijkste taak van AI-compilers zoals XLA, TVM en de compilerfunctie van PyTorch is juist?
- AHet antwoord van het AI-model in menselijke taal vertalen
- BAutomatisch trainingsdata verzamelen
- CDe rekengraaf van het model analyseren, bewerkingen samenvoegen, de dataopstelling en tiling optimaliseren en code voor de doelhardware genereren
Antwoord en toelichting tonen
Antwoord: C. De rekengraaf van het model analyseren, bewerkingen samenvoegen, de dataopstelling en tiling optimaliseren en code voor de doelhardware genereren
Een AI-compiler neemt het model als rekengraaf van bewerkingen en datastromen, voegt bewerkingen samen waar dat kan, verwijdert overbodige berekeningen, kiest de geheugenopstelling, stelt tilegroottes af enz., en genereert kernels die bij het doel, zoals een GPU of NPU, passen. Voor hetzelfde model kan voor elke hardware automatisch optimale code worden gemaakt, wat de moeite van handmatige optimalisatie sterk vermindert.