Tijdens het eigen “Advancing AI”-event in San Francisco draait AMD op volle toeren. Nieuwe aankondigingen rondom Epyc, Instinct, Ryzen en networking laten zien dat niemand meer om het bedrijf heen kan.
Veel was al bekend over “Turin”, de codenaam voor AMD’s vijfde generatie Epyc-chips. De doelstellingen rondom deze release waren drieledig: pure kracht, efficiëntie en end-to-end AI, een term die het gehele portfolio samenvat. Dat begint echter bij Epyc, de serverchips die tegenwoordig 34 procent van de markt geclaimd hebben (uitgaande van omzet).
Een Epyc voor elke use-case
Epyc heeft dit jaar vanuit de Intel-hoek met een interessante concurrent te maken. De Xeon-lijn bestaat tegenwoordig uit twee soorten serverchips: eentje met enkel performance-cores, en een ander met alleen efficiency-cores.
AMD kiest voor een vergelijkbaar pad, zij het met een andere invulling. Een variant met 64 cores bereikt de magische grens van 5 GHz aan klokfrequentie voor de meest veeleisende workloads. Intussen is er ook te kiezen voor een 128 Zen 5-core versie en een Epyc met 192 iets efficiëntere maar minder krachtige Zen 5c-cores. Het verbruik verschilt enorm, met een enkele uitschieter naar 500 Watt.
Instinct MI325X en M355X
Op GPU-gebied lanceert AMD vandaag de MI325X. Het is een doorontwikkeling van de MI300X, de succesvolste uitdager van Nvidia. Zoals de MI300X al sneller was in AI-inferencing dan Nvidia’s H100, geldt hetzelfde voor de MI325X ten opzichte van de H200.
256GB aan HBM3E-geheugen is aan boord bij een enkele GPU. Echter zullen vele klanten hun MI325X’en in “Universal Baseboards” in achtvoud bestellen. Voor inferencing zijn de resultaten zoals gezegd sterk, maar AMD geeft toe dat het qua training nog wat groei te beleven heeft. Daar zijn de prestaties bijna identiek aan Nvidia’s H200, als we AMD mogen geloven.
Ook blikt AMD kort vooruit op de Instinct MI355X, die medio volgend jaar verschijnt. De specificaties zijn imposant, met als belangrijkste wapenfeit dat een AI-model met 4,2 biljoen (!) parameters op een achttal MI355X’en te draaien is. Voor wat context: naar verluidt is OpenAI’s GPT-4 voorzien van 1,8 biljoen parameters.
Ryzen AI PRO: de sterkste NPU (voor wat het waard is)
De Ryzen AI PRO 300-serie draait juist om de kleinste AI-taken, die lokaal draaien. In navolging van de positief ontvangen AI 300-serie volgt nu de zakelijke variant. Drie CPU’s verschijnen deze maand voor laptops:
De term “AI-pc” heeft zich eindelijk van diens mysterieuze aard ontdaan, maar AMD is alweer toe aan een nieuwe term: de “next-gen” AI-pc. Specifiek betreft het de AI TOPS, het aantal biljoen berekeningen per seconde dat een chip kan afhandelen. Bij AMD is dit aantal hoger dan geldt voor concurrenten Intel en Qualcomm met 50 of 55.
Hoeveel is dat waard? Volgens Intel niet zoveel, volgens AMD is het niet anders dan een krachtigere CPU of GPU. Extra vermogen betekent snellere berekeningen en dus kortere laadtijden, snellere respons en uiteindelijk een fijner gebruik.
Networking: nieuwe DPU en NIC
Een veelal onderbelicht aspect van de AI-revolutie is de networking-kant. Daar wil AMD een einde aan maken. Het verhaal hieromheen is veel breder dan waar we in dit overzicht aandacht aan kunnen besteden, maar de ambities zijn fors.
Concreet levert AMD vanaf nu een nieuwe DPU: de Pensando Salina 400. De sleutel naar succes hiervoor is niet alleen krachtige prestaties. De programmeerbare aard ervan maakt het mogelijk om achteraf nog optimalisaties voor het netwerk uit te voeren. Dit zal nodig zijn, stelt AMD, zeker omdat frontend networks door toedoen van AI veel zwaarder op de proef gesteld worden dan voorheen.
Tegelijkertijd lanceert AMD de Pensando Pollara 400, een NIC die als eerste is voorbereid op de aanstormende Ultra Ethernet Consortium 1.0-standaard. Wederom is het zaak om hier later uitgebreid op terug te komen, want AMD’s visie op dit gebied is ambitieus. Voor nu: Pensando Pollara 400 levert tot wel zes keer hogere snelheden op dan voorgaande NIC’s en biedt programmeerbare “congestion control” om netwerken optimaal te benutten.
Conclusie: van alles wat
Toen AMD aankondigde dat het een “Advancing AI”-evenement organiseerde, bleven veel details uit. Het is verrassend hoe weinig het bedrijf heeft prijsgegeven, wetende hoe significant deze reeks aan nieuwe producten is. Op elk gebied valt er wel wat te melden: Epyc, Instinct, Ryzen en networking.
Techzine is aanwezig om nog meer te weten te komen over deze aankondigingen. Er is één ding dat zeker is: AMD is volop in beweging en breidt zich in elk segment fors uit.
Lees ook: Logische stap AMD: bakt alle GPU’s voortaan met hetzelfde recept