Vultr heeft een nieuwe architectuur voor GPU-gedreven datacenters gelanceerd. AMD, Broadcom en Juniper Networks zijn de vooraanstaande partners. Het laat concurrenten van Vultr zien dat er ook leven is buiten Nvidia op GenAI-gebied.
We bespraken recent al meerdere aanbieders van AI-infrastructuur, oftewel partijen die cloudresources leveren met een nadruk op GPU-compute. Zo is DataCrunch een veelbelovende Europese speler, terwijl het Amerikaanse CoreWeave de interesse van Cisco en Pure Storage heeft gewekt. Het grote verschil: je moet heel goed zoeken om níét een Nvidia-klant te worden via dergelijke ‘AI-hyperscalers’. Op dat gebied wijkt Vultr nu duidelijk af.
GPU’s als spil in het datacenter
Nu GPU-datacenters een feit zijn, blijkt de veelvoud aan keuzes die een partij als Vultr te maken heeft. Zo zijn Broadcom en Juniper gekozen voor respectievelijk hun Ethernet-technologie en networking. Weliswaar is daar veel complex werk voor te verrichten, maar uiteindelijk draait een GPU-datacenter om het zo snel mogelijk voeden van data aan het belangrijkste component: de AI-chip, wat voor de meesten een GPU zal zijn.
Meermaals is de keuze op dat gebied juist miniem. Nvidia is altijd en overal beschikbaar als keuze voor GPU-compute op afstand, waar dan ook ter wereld. Als het niet via een Preferred Partner zoals Vultr, CoreWeave of DataCrunch is, dan wel direct vanuit Nvidia. Maar het ecosysteem aan software en CUDA-tooling is afgesloten en exclusief. Voor eindgebruikers zijn zij dus regelmatig gebonden aan het AI-platform van Nvidia.
Lees ook: AMD wint terrein met Epyc in servers – en groeit overal
Open standaarden
ROCm, het open-source alternatief als AI-stack hiervoor, geldt voor Vultr’s nieuwe architectuur als de basis. Het is een dermate open standaard dat zelfs Intel, mocht die GPU-divisie ooit competitief worden, zomaar naar voren geschoven kan worden als onderhuidse chipleverancier. Vultr heeft daarom nog altijd de opties open. Het is echter wel een teken van vertrouwen in AMD’s MI300X-chip dat men hiervoor koos voor een compleet nieuwe architectuur. In de komende jaren zal vermoedelijk de overstap volgen naar MI325X, het nieuwste model, en MI355X, dat nog later volgt.
“Open ecosystemen zijn de basis van innovatie”, laat J.J. Kardwell, CEO van Vultr, weten. “Onze samenwerking met AMD, Broadcom en Juniper Networks stelt ondernemingen en AI-innovators in staat om het volledige potentieel van versneld computergebruik te benutten met de hoogste niveaus van flexibiliteit, schaalbaarheid, interoperabiliteit en beveiliging.”
De eerste AMD-gedreven supercompute-cluster van Vultr zal in Chicago terechtkomen. Het zal een kwestie van tijd zijn voordat de rest van de wereld een AMD-cluster in de buurt heeft. Het feit dat Ethernet de strijd allang gewonnen heeft van Nvidia’s InfiniBand voor AI-connectiviteit, is een belangrijk wapenfeit hiervoor.
“Ethernet is standaard technologie geworden voor backend netwerken in grootschalige AI-implementaties”, zegt Ram Velaga, Senior Vice President en General Manager, Core Switching Group, Broadcom dan ook. “We zijn er trots op samen te werken met AMD, Juniper en Vultr om dit supercomputercluster op basis van open Ethernet-netwerken van energie te voorzien.”
Beluister ook onze Techzine Talks-aflevering over de opmars van AMD: