Nederlands
Menu

Interfaces en busstandaarden

Wat is de belangrijkste reden dat in systemen waarin veel GPU's voor AI zijn verbonden, naast PCI Express een aparte, speciale snelle verbinding tussen GPU's (zoals NVLink van NVIDIA) wordt gebruikt?

  1. AOmdat met PCI Express geen enkele GPU kan worden aangesloten
  2. BOmdat met een speciale verbinding het geheugen van de GPU niet meer nodig is
  3. COmdat bij het trainen van grote modellen veel data tussen GPU's worden uitgewisseld en een grotere bandbreedte dan PCI Express nodig is
Antwoord en toelichting tonen

Antwoord: C. Omdat bij het trainen van grote modellen veel data tussen GPU's worden uitgewisseld en een grotere bandbreedte dan PCI Express nodig is

Bij het trainen van een groot AI-model met meerdere GPU's worden tijdens de berekening vaak gradiënten, parameters en tussenresultaten tussen GPU's uitgewisseld. Als deze communicatie traag is, stoppen de GPU's de berekening en wachten. De speciale verbinding tussen GPU's bundelt veel snelle SerDes-lanes en maakt het mogelijk rechtstreeks data uit te wisselen met een bandbreedte die vele malen groter is dan die van PCI Express.

Dit onderwerp oefenen Naar de onderwerppagina

Meer vragen over Interfaces en busstandaarden

  1. Als bij PCI Express veel pakketten worden verzonden die kleine data van 64 bytes schrijven, wordt de effectieve bandbreedte aanzienlijk kleiner dan de theoretische waarde. Wat is de belangrijkste reden?
  2. Welke uitspraak over het DMA-mechanisme met een ring van descriptors in het geheugen, dat veel wordt gebruikt bij netwerkkaarten en NVMe-SSD's, is juist?
  3. Welke uitspraak over de energiebesparingsfuncties van de PCI Express-link (de toestanden L0s en L1 via ASPM) is juist?
  4. Wat is de belangrijkste reden dat snelle verbindingen tussen chips en printplaten zijn overgegaan van parallelle transmissie met veel lijnen naar seriële transmissie met snelle signalen over weinig lijnen?
  5. Wat is de juiste rol van SerDes (serializer/deserializer), dat bij snelle seriële transmissie wordt gebruikt?

Vergelijkingen bij dit onderwerp