Het doel van Nvidia kort na het begin van de AI-opmars was om veel sneller nieuwe generaties aan GPU’s te leveren. Gevoed door tientallen miljarden dollars aan omzet per kwartaal is de R&D in sneltreinvaart van Hopper naar Blackwell naar Rubin gegaan. Echter blijkt het ambitieuze rackscale Kyber-systeem op basis van Rubin Ultra-chips niet haalbaar voor 2027. Ruim een jaar uitstel geeft achterliggers AMD en Google een zeldzame kans om met hun AI-producten aan de top mee te doen.
Het nieuws komt vanuit SemiAnalysis, dat stelt dat een bepaalde PCB erg lastig te fabriceren is. Deze ‘midplane’ bestaat uit 78 lagen en is erg foutgevoelig. De grotere NVL576, zoals de naam verklapt voorzien van 576 GPU’s, kent tevens fabricageproblemen. Hierbij worden acht racks via optische verbindingen gekoppeld.
Kyber is geen doorsnee product. Het gaat om een serverkast die 144 van Nvidia’s krachtigste chips in één eenheid propt, zodat ze als één gigantische computer samenwerken. Een noodplan om twee huidige racks te koppelen, is geschrapt. Cloudklanten zouden dat voorgestelde ontwerp omslachtig en duur qua onderhoud vinden.
Einde aan het enorme tempo?
Van 2016 tot 2022 volgden codenamen Pascal, Volta, Ampere en Hopper elkaar op als vlaggenschip-GPU’s voor Nvidia’s zakelijke markt. Het overgrote merendeel van de aandacht ging nog naar de consumentenmarkt, met name voor gaming. Toen de AI-hype door toedoen van ChatGPT in rap tempo schaal vereiste, waren het eerst de Ampere- en Hopper-gedreven A100’s en H100’s die de dienst uitmaakten. Sindsdien vormen Blackwell, Blackwell Ultra, Rubin, Rubin Ultra en daarna Feynman de roadmap. Maar deze blijkt dus niet haalbaar.
De vertraging is één probleem in in een reeks tegenslagen die vragen oproept over Nvidia’s jaarlijkse releasetempo. Met terugwerkende kracht laat het de wijsheid zien van de eerdere productiesnelheid, hoewel deze met het huidige competitieve landschap vol potentiële rivalen en klanten met volle portemonnees zeer aantrekkelijk is sneller te leveren dan ooit. Nvidia blijft verder gewoon financieel op stoom. De huidige Rubin-systemen zijn in volledige productie en gaan dit najaar naar acht cloudpartners, waaronder de grote drie hyperscalers AWS, Microsoft Azure en Google Cloud.
Roadmap onder druk
Dat Nvidia zelf flink investeert om de snelheid erin te houden, bleek eerder al toen het bedrijf voor het eerst in vijf jaar de obligatiemarkt betrad om minimaal 20 miljard dollar op te halen. De kapitaaluitgaven in de AI-sector groeien dit jaar naar circa 660 miljard dollar. Volgens NVIDIA’s eigen developerblog vormt Kyber de basis voor nog grotere systemen zoals NVL576 en zelfs NVL1152. Het einde van de groei is dus bij lange na niet in zicht, enkel rest de vraag of het tempo van die groei blijft zoals deze nu is.