Geheugen waarin meerdere DRAM-dies met TSV's worden gestapeld en dat met een zeer brede bus een hoge bandbreedte levert.
Japanse benaming: HBM
“HBM (high bandwidth memory)” komt voor in 30 oefenvragen uit 12 onderwerpen, bijv. Geavanceerde technologieën (3D-integratie, chiplets), Halfgeleiderindustrie en markt, DRAM.
Vakgebied: Geavanceerde technologieën (3D-integratie, chiplets)
High Bandwidth Memory (HBM) haalt zijn prestaties uit een extreem brede interface in plaats van uit zeer snelle pinnen. Tot en met de HBM3-generatie heeft elke stack een databus van 1.024 bits, tegenover 64 bits voor een typische DDR-module; HBM4 verbreedt dit tot 2.048 bits. Bij 6,4 Gb/s per pin levert een HBM3-stack ongeveer 819 GB/s, en een processor met meerdere stacks haalt enkele TB/s. Veel pinnen op een gematigde snelheid laten werken houdt ook de energie per bit lager dan minder pinnen op te jagen tot de hoge snelheden per pin van grafisch geheugen.
Een stack bestaat uit 8, 12 of 16 DRAM-dies op een base- of logic-die, allemaal verticaal verbonden door through-silicon vias (TSV's) en microbumps. De base-die verzorgt de signalering naar de processor en bevat test- en reparatieschakelingen. Omdat de standaard de stapelhoogte vastlegt, betekent het toevoegen van dies dat elke die tot ongeveer 30 µm moet worden gedund en dat de bondlagen dunner worden; dies worden meestal verbonden met thermocompressiebonden, terwijl hybrid bonding in opkomst is. Elke die moet een known good die zijn, want acht dies die elk voor 99% goed zijn, leveren slechts ongeveer 92% goede stacks op.
Meerdere stacks van elk 1.024 lijnen komen samen op duizenden signalen, veel meer dan een organisch packagesubstraat met bedrading van tientallen micrometers breed kan routeren. HBM wordt daarom naast de processor geplaatst op een siliciuminterposer met bedrading van 1 µm of fijner, wat verbindingen van slechts millimeters lang oplevert. Deze opstelling naast elkaar heet 2.5D-packaging, terwijl de DRAM-stack zelf 3D is. AI-packages hebben interposers nodig die groter zijn dan één lithografieveld van ongeveer 26 × 33 mm, zodat de interposerbedrading over aangrenzende belichtingsvelden aan elkaar wordt gestitcht.
GDDR, het andere geheugen dat met GPU's wordt gebruikt, kiest de tegenovergestelde aanpak: afzonderlijke chips op de printplaat rond de processor, elk met een smalle interface van meer dan 20 Gb/s per pin. Het is goedkoper en eenvoudiger te assembleren, maar levert minder bandbreedte per watt. DDR dient als hoofdgeheugen voor CPU's, met de grootste capaciteit en de laagste kosten per bit. HBM is duurder en vereist geavanceerde packaging, maar het is het belangrijkste antwoord op de memory wall in AI-accelerators, waarvan de grote modellen bij elke berekening gewichten uit het geheugen moeten streamen.
Antwoord: B. De test op componentniveau gaat uit van de hantering tijdens productie en assemblage, de test op systeemniveau gaat onder meer uit van aanraking door mensen tijdens gebruik, en de ontladingsenergie is veel groter
HBM en CDM zijn tests die uitgaan van statische elektriciteit bij de hantering van IC's in een beheerste fabriek; voor HBM is een spanningsbestendigheid van bijvoorbeeld circa 2 kV een gangbare richtwaarde. De test op systeemniveau gaat daarentegen uit van onder meer ontlading van een persoon die een portier of schakelaar aanraakt, met hoge spanningen van enkele kV tot ruim tien kV (bij luchtontlading tot circa 25 kV), en ook de ontladingsenergie is veel groter. Vaak zijn de beveiligingscircuits in het IC alleen hier niet tegen bestand, dus voor pinnen die naar buiten zijn verbonden worden beveiligingscomponenten zoals TVS-diodes op de printplaat toegevoegd.
Antwoord: C. Een geheugen waarbij meerdere DRAM-dies met TSV's worden gestapeld en een hoge bandbreedte wordt bereikt met een zeer brede bus
HBM is een geheugen waarbij meerdere DRAM-dies met TSV's worden gestapeld en via een zeer brede databus van 1.024 lijnen met de processor worden verbonden, zodat een hoge datatransferbandbreedte wordt bereikt. Bij HBM3 is dit bijvoorbeeld 6,4 Gb/s per lijn en circa 819 GB/s per stack. HBM wordt gebruikt bij 2.5D-integratie, naast de processor op bijvoorbeeld een silicium-interposer, en is aanwezig in onder meer GPU's voor AI. Het is iets anders dan flash of SRAM-cache.
Bij geheugen staat HBM voor High Bandwidth Memory, een gestapeld DRAM volgens JEDEC-standaard. Bij ESD-testen betekenen dezelfde letters het human body model, een daarmee niet verwante test die de ontlading van een geladen persoon via 100 pF en 1,5 kΩ nabootst.
HBM stapelt DRAM-dies en verbindt ze met de processor via een zeer brede bus op een siliciuminterposer, terwijl GDDR afzonderlijke chips op de printplaat gebruikt met smalle maar zeer snelle interfaces. HBM geeft een hogere bandbreedte en een betere energie per bit, tegen hogere kosten.
Elke HBM-stack heeft meer dan duizend dataverbindingen nodig, die alleen met de fijne bedrading van een siliciuminterposer over enkele millimeters te routeren zijn. Juist korte, dichte verbindingen maken de zeer hoge bandbreedte bij een gematigde snelheid per pin mogelijk.
HBM en CDM zijn tests die uitgaan van statische elektriciteit bij de hantering van IC's in een beheerste fabriek; voor HBM is een spanningsbestendigheid van bijvoorbeeld circa 2 kV een gangbare richtwaarde.
Welk verschil tussen de ESD-test op componentniveau van een…HBM is een geheugen waarbij meerdere DRAM-dies met TSV's worden gestapeld en via een zeer brede databus van 1.024 lijnen met de processor worden verbonden, zodat een hoge datatransferbandbreedte wordt bereikt.
Welke uitspraak over HBM (High Bandwidth Memory) is juist?Een HBM heeft 1.024 datalijnen per stack en bij meerdere stacks lopen dat er duizenden op, die op een gewoon packagesubstraat niet te bedraden zijn.
Wat is de belangrijkste reden om bij een GPU voor AI de GPU…Bij HBM worden via TSV's verbonden DRAM-dies gestapeld, 8, 12 of zelfs 16 stuks, en gecombineerd met een basisdie (logic die) onderaan tot één stack.
Hoeveel DRAM-dies kunnen in een HBM-stack gewoonlijk worden…De basisdie van een HBM verzorgt de signaaluitwisseling tussen de gestapelde DRAM-dies en de processor en bevat ook schakelingen voor testen en het repareren van defecte cellen.
Welke uitspraak over de rol van de basisdie (logic die) ond…GPU Silicium-interposer TSV (through-silicon via) Via ESD (elektrostatische ontlading) 2.5D-integratie CoWoS Numerieke apertuur (NA) Memory wall Hybride bonding (hybrid bonding)