Wat is Memory wall?

Probleem dat de verbetering van de bandbreedte en latentie van het geheugen de stijging van de rekenprestaties van processors niet bijhoudt, waardoor de totale prestaties beperkt worden. Wordt aangepakt met onder meer HBM, grotere caches en geavanceerde packaging.

Japanse benaming: メモリウォール

“Memory wall” komt voor in 2 oefenvragen uit 2 onderwerpen, bijv. DRAM, Geavanceerde technologieën (3D-integratie, chiplets).

Vakgebied: DRAM

Nu oefenen: vragen over Memory wall

Hoe heet de prestatiebeperking die ontstaat doordat verbetering van de geheugenbandbreedte en -latentie de prestatiewinst van de processor niet bijhoudt?

  1. AWet van Moore
  2. BSiliciumcyclus
  3. CMemory wall
Antwoord en toelichting tonen

Antwoord: C. Memory wall

Er was een periode waarin de rekenprestaties van processors met meer dan 50 % per jaar groeiden, maar de toegangslatentie van DRAM is vanaf enkele tientallen ns nauwelijks verbeterd, zodat de CPU honderden cycli op gegevens wacht. Dit is de memory wall. Tegenmaatregelen zijn onder meer caches in meerdere niveaus, parallelle toegang tot het geheugen, prefetching, geheugen met brede bandbreedte zoals HBM en processing-in-memory, waarbij berekeningen dicht bij het geheugen worden uitgevoerd.

Hoe heet het probleem dat de snelheid waarmee data uit het geheugen wordt aangeleverd de toename van de rekenprestaties van de processor niet bijhoudt en zo de totale prestaties beperkt?

  1. AThermal wall
  2. BGeheugenmuur (memory wall)
  3. CWet van Moore
Antwoord en toelichting tonen

Antwoord: B. Geheugenmuur (memory wall)

De rekenprestaties van processors zijn snel toegenomen, maar de groei van de snelheid (bandbreedte) van de datatransfer met het geheugen is bescheidener, zodat de rekeneenheden steeds langer op data moeten wachten. Dit heet de memory wall. Het probleem is vooral ernstig bij grote AI-modellen, die bij elke berekening grote hoeveelheden gewichten uitlezen; maatregelen zijn geavanceerde packaging waarbij HBM dicht bij de processor wordt gemonteerd en het stapelen van caches met grote capaciteit.

“Memory wall” in de toelichting

Vragen met “Memory wall” (2)

  1. Hoe heet de prestatiebeperking die ontstaat doordat verbetering van de geheugenbandbreedte en -latentie de prestatiewinst van de processor niet bijhoudt?
  2. Hoe heet het probleem dat de snelheid waarmee data uit het geheugen wordt aangeleverd de toename van de rekenprestaties van de processor niet bijhoudt en zo de totale prestaties beperkt?

Verwante termen

HBM (high bandwidth memory) Prefetching 1T1C-cel Bank Bitlijn CAS-latency DDR SDRAM DIMM ECC (foutcorrigerende code) Leesversterker (sense amplifier)

Naar de woordenlijst