10 Gigawatt aan vermogen zal worden ingezet om ChatGPT te draaien op een custom stukje silicium. De chip, afkomstig van een samenwerking tussen Broadcom en OpenAI, moet de afhankelijkheid van laatstgenoemde ten opzichte van Nvidia laten afnemen.
Het regent megadeals in het AI-landschap. In een ietwat curieuze volgorde blijkt Nvidia miljarden te investeren in OpenAI, dat op zijn beurt de portemonnee trekt voor AMD. Het bedrijf achter ChatGPT wil dan ook diversifiëren. Een speerpunt daarbij is een custom chip die nu steeds meer vorm krijgt.
Inferencing
De 10 GW aan vermogen zal zeer waarschijnlijk dienst draaien voor het dagelijks functioneren van ChatGPT, zij het gedeeltelijk. Inferencing, de naam voor AI-workloads waarbij LLM’s dagelijks draaien, is echter aanzienlijk eenvoudiger te draaien dan training. Voor AI-training lijkt OpenAI ook in de nabije toekomst nog volledig afhankelijk van andermans processoren.
OpenAI-CEO Sam Altman spreekt over een “breder ecosysteem” waarbinnen de nieuwe AI-chip past. Eind 2026 moet de accelerator het levenslicht zien. De samenwerking met Broadcom reikt verder dan alleen de processor zelf; de chipreus heeft een heus systeem rondom AI-inferencing gebouwd.
Efficiëntie
OpenAI bevindt zich in een unieke positie. Als AI-modelbouwer weten de experts van het bedrijf als geen ander waar de limieten van de huidige chiptechnologie AI het meest in de weg zitten. Door een processor te bouwen die (in tegenstelling tot Nvidia-GPU’s) slechts uitblinkt in één opzicht, is het eindproduct precies te ontwerpen naar de vereisten van OpenAI.
Hoe groot de werkelijke uitbouw voor AI wordt, moet blijken. Bijna elke grote aankondiging rondom AI-infrastructuur is toekomstmuziek. Denk aan Stargate, een project van met name Oracle, OpenAI en SoftBank, of de massale inkoop van Nvidia- en AMD-chips voor de komende jaren door datzelfde OpenAI. Met voortdurende speculatie rondom een vermeende AI-bubbel wordt het veelzeggend of de uitrol van de aangekondigde AI-hardware in 2026 een nog hoger niveau bereikt dan nu.
Lees ook: Waarom OpenAI voor AMD heeft gekozen met miljardendeal