AI-hardware en softwarestack

Wat is de belangrijkste reden waarom een systolic array in AI-versnellers matrixproducten efficiënt kan berekenen?

  1. AOmdat elke rekeneenheid telkens rechtstreeks data uit het hoofdgeheugen leest
  2. BOmdat er maar één rekeneenheid is, zodat de schakeling eenvoudig is
  3. COmdat data achtereenvolgens aan de naburige rekeneenheid worden doorgegeven en hergebruikt, zodat minder uit het geheugen hoeft te worden gelezen en veel rekeneenheden tegelijk kunnen werken
Antwoord en toelichting tonen

Antwoord: C. Omdat data achtereenvolgens aan de naburige rekeneenheid worden doorgegeven en hergebruikt, zodat minder uit het geheugen hoeft te worden gelezen en veel rekeneenheden tegelijk kunnen werken

In een systolic array stromen data met een vast ritme, als een hartslag, tussen de in een rooster geplaatste multiply-accumulate-eenheden. Een eenmaal gelezen waarde wordt achtereenvolgens aan de naburige eenheid doorgegeven en voor tientallen bewerkingen gebruikt, zodat in verhouding tot de uit het geheugen gelezen hoeveelheid zeer veel kan worden berekend. Doordat de bedrading uit korte verbindingen tussen buren bestaat, kunnen veel rekeneenheden met hoge dichtheid worden geplaatst.

Dit onderwerp oefenen Naar de onderwerppagina

Meer vragen over AI-hardware en softwarestack

  1. Wat is de belangrijkste reden waarom AI-versnellers soms een groot SRAM (tientallen tot honderden MB) op de chip plaatsen?
  2. Welke uitspraak over "weight stationary" (gewichten vast), een van de dataflow-methoden van AI-versnellers, is juist?
  3. Welke van de volgende is GEEN voordeel van AI-inferentie in een apparaat zoals een smartphone (edge) in plaats van op een cloudserver?
  4. Wat is de belangrijkste reden dat een NPU in een SoC van een smartphone bij AI-inferentie energiezuiniger is dan een CPU?
  5. Welke uitspraak over waar op moet worden gelet bij een waarde als "○○ TOPS" als prestatie van een AI-versneller is juist?