Origineel, Erik van Klinken, 24/05, 16u30: Op elke AI-accelererende GPU zitten meerdere kostbare HBM-modules. Samsung dreigt door aanhoudende problemen bij de nieuwste generatie hiervan (HBM3 en HBM3e) de belangrijkste klant Nvidia mis te lopen.
Nvidia test momenteel geheugenchips om aan de eigen GPU’s te koppelen. Voor producten als de H100 en de Blackwell-serie zijn de HBM-modules direct verbonden met Nvidia’s halfgeleider. Samsung zou volgens drie bronnen van Reuters niet goed uit de tests komen. De modules zouden te heet worden en te veel stroom verbruiken. Elk verlies op dit gebied heeft gevolgen voor het aantal Watts aan energie die Nvidia zelf kan inzetten: het is dus aan de geheugenmakers zo weinig mogelijk af te snoepen van dit power budget.
Samsung ontkent de claims van gefaalde tests, Nvidia weigerde Reuters te voorzien van commentaar.
HBM
HBM (High-Bandwidth Memory) is aanzienlijk sneller dan conventioneel geheugen. HBM3e, de nieuwste versie, verwerkt data op een snelheid van meer dan 9,2 Gigabits per seconde, of in ieder geval bij Micron. Het is fors sneller dan de 6,4 Gbps die voorganger HBM3 bij Samsung behaalde.
Drie geheugenvendoren (Samsung, SK Hynix en Micron) strijden om zeer lucratieve contracten met partijen als Nvidia, Intel en AMD. De prijs voor geheugen heeft een grote invloed op de totale kostprijs voor deze bedrijven, waardoor het aan het drietal HBM-leveranciers is om met imposante prestaties op de proppen te komen.
Zuid-Koreaans feestje
Mocht Samsung uit de race vallen bij Nvidia, dan is het hoogst waarschijnlijk dat dezelfde tekortkomingen op termijn voor problemen zorgen bij Intel en AMD. Die twee partijen doen hun uiterste best om de second source te worden voor datacentra wereldwijd als er geen betaalbaar Nvidia-aanbod is. Ook zij plakken HBM-modules vast aan de eigen GPU’s voor de snelst mogelijke interconnects, maar maken gebruik van oudere HBM-varianten dan Nvidia. Als AMD en Intel blijven kiezen voor HBM3 en HBM2e (zoals bij respectievelijk de MI300X en Gaudi 3), dan is er voor Samsung voor die bedrijven nog geen probleem.
SK Hynix domineert de HBM-sector met circa 52 procent marktaandeel. Samsung bezit momenteel 42,4 procent, terwijl Micron iets boven de 5 procent uitsteekt. Met andere woorden: het is een Zuid-Koreaans feestje, waarbij SK Hynix zowel de verkoopcijfers als de prestaties mee heeft.
Overigens hoopt de Zuid-Koreaanse regering met forse investeringen de eigen chipindustrie verder te bevorderen. Afgezien van een kort huwelijk met Nvidia voor GPU-productie is Samsung enkel relevant voor geheugenchips geweest bij derden de laatste jaren. SK Hynix richt zich alleen op geheugen. Men hoopt in Seoul met miljarden aan overheidssteun ervoor te zorgen dat ook CPU’s, GPU’s en acceleratoren voor toegespitse workloads in eigen land gecreëerd worden.
Lees ook: Zuid-Korea troeft wereldwijde concurrentie af: 430 miljard voor chipproductie
Update, Laura Herijgers, 27/05, 9u55: Samsung weerlegt in een reactie op de feiten dat er problemen zouden zijn bij het testen van de HBM-modules. “Testen met de HBM-modules verlopen soepel bij verschillende partners wereldwijd”, verklaart het bedrijf tegenover Business Korea. Er wordt toegevoegd dat prestaties voortdurend worden getest, in samenwerking met meerdere bedrijven.