ARM in servers: van nicheproject naar massaproduct dankzij AWS Graviton

ARM wil uit de mobiele markt breken en zicht ontpoppen tot referentie-architectuur in zowel desktop als serverland. In de serverwereld zette de architectuur babystapjes voorwaarts in de marge, tot recent met de introductie van Graviton 2. Hiermee lanceerde AWS een kanonschot voor de boeg van x86-specialisten AMD en Intel en ontpopte het zich meteen als turbo voor de ARM-servermotor.

ARM is al een tijdje aanwezig in servers. In 2017 al lanceerde Red Hat softwareondersteuning voor de architectuur en in 2018 pakte Amazon Web Services uit met de eerste ARM-servers binnen zijn cloudplatform. In datzelfde jaar introduceerde Arm Holding zelf Neoverse: een reeks van ARM-designs die de architectuur naar de infrastructuurwereld moest brengen. Tot voor kort bewoog er echter niet veel in de serverwereld. Wie wilde, kon wel beroep doen op een ARM-server en de kostenbesparing die daarbij kwam kijken, maar veel meer dan een nicheproduct was de hardware niet. Zelfs de eerste generatie van de Graviton-chips van AWS was moeilijk een massaproduct te noemen.

Met Graviton 2 komt daar verandering in. AWS introduceerde de eerste instances met de chip vorig jaar, en pakt uit met tot zeven keer betere prestaties dan zijn voorganger. Graviton 2 is een 7 nm-chip met 64 rekenkernen en 32 MB L3-cache per kern. De cpu maakt gebruik van Arm’s Neoverse-ontwerp maar is verder in house ontwikkeld door AWS zelf. De cloudreus haalde de capaciteit tot het ontwikkelen van eigen chips in 2016 in huis met de overname van Annapurna Labs, en ontwikkelt sindsdien gretig eigen microchips.

AWS Graviton 2

Graviton 2 lijkt de zet die de ARM-serverarchitectuur nodig heeft. “ARM groeide aanvankelijk niet echt”, verduidelijkt Julien Lépine, Specialist Solutions Architects bij AWS EMEA aan Techzine. Dat had minder met prestaties te maken en meer met praktische uitdagingen. Als klant kan je immers niet zomaar aan de slag gaan met ARM-chips. “Je moet workloads checken en valideren op nieuwe hardware, zelfs wanneer ze in theorie werken. Bovendien moet je vooraf zelf servers kopen en de nodige knowhow in huis halen. Dat was een enorme investering en die schrikte af.”

Workloads op ARM valideren was een enorme investering en die schrikte af.

AWS rolt zijn Graviton 2-instances op grote schaal uit, waardoor klanten plots de optie krijgen om via een cloudmodel voor weinig geld workloads te testen op de nieuwe architectuur. “Op kleine schaal hebben we daar een gratis tier voor”, aldus Lépine, “op grotere schaal zijn er andere validatie-opties of kan je AWS contacteren om samen met experts na te gaan welke architectuur het interessantst is voor je onderneming.”

De testmogelijkheden zijn niet uniek aan AWS maar een inherent voordeel aan de publieke cloud. Concurrenten zoals Microsoft Azure of Google Cloud Platform hebben verschillende serverconfiguraties ter beschikking zodat klanten eenvoudig tests kunnen draaien op een variatie aan hardware. In de praktijk gaat het dan veelal op Intel- of AMD-chips (Intel is ruim marktleider). “Dat blijft het grootste voordeel van de cloud: een configuratie testen kost enkele uren aan compute, meer niet.” AWS onderscheidt zich wel van de concurrentie met de schaal van het Graviton-aanbod.

Waarom ARM?

De provider kan dus ARM-cloudservers op schaal aanbieden en maakt het mogelijk voor bedrijven om de infrastructuur quasi vrijblijvend te testen. Dat verklaart echter nog niet waarom ze dat effectief doen. Wat is de aantrekkingskracht van ARM versus de beproefde x86-architectuur?

Soms moet je het niet te ver zoeken. “Klanten zijn steeds op zoek naar de beste prijs-prestatieratio”, aldus Lépine. “AWS weet van gesprekken met klanten en andere contacten welke workloads klanten willen draaien. De interne ontwikkeling van hardware laat ons toe daarop in te spelen.”

Graviton 2 biedt met andere woorden meer oempf voor minder centjes voor een heleboel workloads. Klanten staan niet noodzakelijk te springen van de andere architectuur, maar als bestaande workloads op ARM draaien en dat blijkt een goedkoper alternatief, is er plots heel wat enthousiasme. “Graviton 2 biedt voor sommige workloads een verbetering van 40 procent op de prijs-prestatieratio”, vervolledigt Lépine.

Ideaal voor HPC

Niet alle workloads werken recht uit de doos op een ARM-server, maar in de praktijk ziet Lépine dat er niet al te veel problemen zijn. Natuurlijk is er legacysoftware die x86-architectuur vereist. Dat is echter niet altijd de enige reden om terughoudend te blijven. “Soms draaiende workloads wel op een ARM-server, maar de rest van het ecosysteem niet. Of technische experts van klanten hebben meer ervaring op andere platformen.”

Voor stevige high performance-workloads blijkt Graviton populair.

In de praktijk ziet AWS heel wat tractie voor een brede variëteit aan toepassingen. “Alles op Linux werkt eenvoudig op ARM. Microservices, Docker containers en Firecracker (het micro-VM-OS van AWS zelf) zijn mooie voorbeelden. Ook voor stevige high performance-workloads blijkt Graviton populair”. In dat geval is de alternatieve architectuur geen mogelijk knelpunt maar net een voordeel. “De ARM-architectuur komt met een hogere geheugenbandbreedte per compute unit. Voor HPC-workloads waarbij dat belangrijk is, biedt Graviton significant meer prestaties aan eenzelfde prijspunt als x86.”

Niet voor iedereen

Lépine verwacht dat de populariteit van ARM in de toekomst alleen maar zal stijgen. “We zien een sterke groei in de omarming van Graviton”, weet hij. Technisch zijn er heel wat voordelen aan ARM en de prijs is scherp, maar de migratie heeft tijd nodig. “Mensen zijn x86 gewoon. Bovendien moeten ontwikkelaars en IT’ers bijleren. ARM gedraagt zich een beetje anders dan x86, de limieten zijn anders…”

Lees ook: Veilig in de cloud: waarom AWS zijn eigen chips ontwikkelt

Het ziet er naar uit dat AWS een kettingreactie in ging heeft gezet. Als ARM-servers heel wat klanten aan een lagere prijs kunnen verder helpen dat x86-servers, komen Microsoft en Google in de problemen met hun x86-installaties. De logische oplossing lijkt daar om eveneens naar ARM en eventueel zelfs Neoverse te kijken, wat de ARM-adoptie alleen maar verder zal versnellen. Daarna is het een kleine stap naar ARM-hardware in hybride opstellingen met on-premises-servers.

Toekomst

Dat betekent niet dat x86 heeft afgedaan. “Niet iedereen gaat migreren en dat hoeft ook niet”, denkt Lépine. “Verschillende workloads draaien het best op verschillende processors. Er is niet alleen een verschil tussen ARM en x86, maar binnen x86 ook tussen Intel en AMD. Het gaat erom dat gebruikers de keuze hebben.”

Hoewel Lépine er tijdens ons gesprek op hamert dat Graviton los staat van de eveneens intensieve samenwerking met Intel en AMD, is de realiteit natuurlijk dat iedere klant op ARM er één is die niet van x86-hardware gebruik maakt. Als ARM effectief gelanceerd is met Graviton, beloven het boeiende tijden te worden in de machtsverhouding tussen de grote chipfabrikanten onderling enerzijds, en de chipbouwers en cloudreuzen anderzijds.