Allerlei soorten AI-chips zullen op Oracle Cloud Infrastructure (OCI) beschikbaar zijn. Naast varianten van Nvidia’s Vera Rubin-architectuur zijn voor het eerst Google TPU’s van de partij vanaf volgend jaar; hetzelfde geldt voor de grote Cerebras-chips. AMD, Intel, SambaNova en OpenAI Jalapeño zouden volgen, al is niet bekend wanneer.
Oracle kwam op AI World in Las Vegas met een lange lijst hardware-aankondigingen. OCI voegt zeven compute-platformen toe of breidt ze uit, en ook het eigen Acceleron-netwerk krijgt een upgrade. Wie vandaag echter aan de slag wil met AI-rekenkracht, heeft nog relatief weinig keuze. Alleen Nvidia Vera Rubin NVL72 en losse Vera CPU’s zijn per direct algemeen beschikbaar.
De rest staat gepland, grotendeels voor 2027. Het kan zo zijn dat die datum niet gehaald wordt, al is de opeenvolging van nieuwe chipgeneraties snel genoeg dat enige haast wel nodig is om de hardware relevant en aantrekkelijk te houden.
Het meest in het oog springende onderdeel is de komst van Google TPU’s, tot nu toe altijd exclusief aan Google Cloud. OCI wordt daarmee de eerste hyperscaler buiten Google zelf die deze chips aanbiedt. Het gaat om de achtste generatie, bestaande uit twee chips: TPU 8t voor training (volgens Google bijna drie keer zoveel compute per pod als de vorige generatie) en TPU 8i voor inferencing. Oracle levert alle infrastructuur buiten de chip om, waaronder de stroom, de koeling en de networking. De uitrol begint in 2027 en moet over meerdere jaren groeien tot een gigawattschaal deployment.
Nvidia blijft de basis
Ondertussen blijft Nvidia het fundament achter de grootschalige AI-infrastructuur van OCI. De Vera Rubin NVL72-racks koppelen 72 GPU’s via NVLink en draaien op Oracle Acceleron in combinatie met Spectrum-X Ethernet, Spectrum-6-switches en BlueField-4 DPU’s. Oracle wil deze Superclusters opschalen naar meerdere gigawatts. De Vera CPU-instances zijn bedoeld voor het werk dat agents tussen model calls doen, zoals tool calls, code-executie en retrieval. Dit is een steeds belangrijker component van agentic workloads naarmate deze langduriger van aard worden. Daarbij schaalt OKE de CPU- en GPU-pools los van elkaar. Een kleinere HGX Rubin NVL8-server met acht GPU’s staat nog op de planning.
Als voorbeeldklant noemt Oracle OpenAI. Dat trainde GPT-6 Astra op een Supercluster met meer dan 100.000 Blackwell-GPU’s in Abilene, op de Stargate-campus van OpenAI.
AMD, Intel en een rij inferencingspecialisten
AMD levert de E7-instances op zesde generatie EPYC Venice CPU’s, met maximaal 256 cores per socket. Daarnaast komen er Helios-racks met 72 Instinct MI455X-GPU’s en tot 31 TB HBM4. Intel en Oracle kondigden eveneens een meerjarige samenwerking aan, waaronder OCI X14 op Diamond Rapids met AMX-ondersteuning voor FP8. Voor geen van beide is een datum genoemd.
Ook voor inferencing buiten GPU’s en CPU’s om wordt het aanbod breder. Cerebras brengt in 2027 zijn Wafer-Scale Engine naar OCI, bedoeld voor latency-gevoelige agents. SambaNova SN50 volgt ook. Opvallend zijn de Jalapeño-accelerators van OpenAI, die samen met Broadcom zijn ontwikkeld. Die lijken vooral capaciteit voor OpenAI zelf te leveren. Verder is er al toegang tot de quantumcomputer van Quantinuum, die eerder naar OCI kwam.
De heterogene opzet maakt Oracle een veelzijdiger aanbod. Die keuzes draaien om meer dan alleen prijs: Nvidia zou qua training vooroplopen maar niet het meest aantrekkelijke aanbod zijn voro inferencing.
Acceleron moet alles bij elkaar houden
Om al deze chips tijdig te voorzien van berekeningen, breidt Oracle ook Acceleron uit. De High-Performance Fabric brengt RDMA naar front-end compute, en NVMe block storage krijgt meer koppelopties met tot drie keer hogere prestaties. De Oracle Collective Communications Library verdeelt het verkeer over het multiplanar backend-netwerk en schakelt automatisch over als links, poorten of NIC’s uitvallen. Ook voor deze netwerkfuncties heeft Oracle nog geen beschikbaarheidsdatum gegeven, maar naarmate de schaal van deployments groeit, wordt het voordeel hiervan steeds meer voelbaar.