Tijdens Cisco Live in Amsterdam kondigt Cisco vandaag de nieuwe Silicon One G300-chip aan. Sinds de lancering van Silicon One speelt deze lijn chips een steeds belangrijkere rol in het verhaal van Cisco. Met de nieuwe G300 zet het een nieuwe 102,4 Tbps-standaard voor Silicon One en AI-netwerken.
Cisco zet inmiddels vol in op Silicon One. In het verleden vroegen we ons weleens hardop af wat de lancering van deze lijn eigen netwerkchips nu eigenlijk zou gaan brengen, omdat het bedrijf er weinig focus op leek te hebben. De laatste jaren zit de vaart er echter goed in. Afgelopen oktober nog schreven we over de P200, die specifiek bedoeld is voor het koppelen van AI-datacenters aan elkaar voor zogeheten scale-across workloads.
Lees ook: Cisco schaalt Silicon One-aanbod op met P200 voor scale across workloads
Cisco Silicon One G300
Vandaag voegt Cisco de G300 toe aan Silicon One. Dit is niet heel verrassend de opvolger van deG200 uit 2023. Wel verrassend is dat Cisco er in net iets meer dan twee-en-een-half jaar een verdubbeling van de doorvoersnelheid uit weet te persen. Waar de G200 (en de recentere P200) nog ‘slechts’ 51,2 Tbps leverden, jaagt de G300 pakketjes er met 102,4 Tbps doorheen.
Met deze bandbreedte wil Cisco de vragen beantwoorden die GPU’s stellen aan het netwerk. Uiteindelijk draait het in een AI-wereld tegenwoordig om zoveel mogelijk tokens genereren en vooral ook om GPU’s zo weinig mogelijk cycles te laten verspillen. Dan mag het netwerk geen bottleneck zijn. De G300 moet het fundament worden voor de komende tijd als het gaat om het bouwen van AI-netwerken. In de woorden van Martin Lund, de EVP van de Common Hardware Group bij Cisco die verantwoordelijk is voor onder andere Silicon One: “Het netwerk wordt onderdeel van de compute zelf.”
Met de G300 moet het mogelijk worden voor organisaties om AI-clusters in te zetten die opereren op gigawatt-niveau, uiteraard voor training, maar ook voor inferencing en realtime agentic workloads.
Wat maakt Silicon One G300 bijzonder?
We spraken vlak voor Cisco Live met Nick Kucharewski, SVP en GM Cisco Silicon One. Kucharewski is nog niet zolang geleden bij Cisco begonnen, maar heeft vrijwel alle grote namen in de netwerkwereld op zijn CV staan: Marvell, Qualcomm en Broadcom.
Kucharewski haalt twee cijfers aan die aangeven hoeveel beter de G300 is ten opzichte van de G200. De G300 is weliswaar een volledig nieuwe implementatie binnen Silicon One (en is ook fysiek groter dan zijn voorganger), maar de onderliggende architectuur is min of meer hetzelfde. Dat is ook belangrijk volgens hem vanuit het perspectief van lifecycle management en de mogelijkheden voor Cisco om hetzelfde design verder uit te rollen binnen de vijf verschillende series binnen Silicon One. “Je wilt een gedeelde basis, een enkel stuk hardware, maar verschillende software”, volgens Kucharewski.
Bovenop de gedeelde onderliggende architectuur is de G300 volledig nieuw. Hij maakt gebruik van meer en betere engines (wel dezelfde engines als in de P200 overigens), meer SerDes-kanalen en ga zo maar door. Verder speelt ook de P4-programmeertaal een belangrijke rol. Dat is de software waar Kucharewski het hierboven over had. Deze programmeertaal houdt zich bezig met wat er heel diep in het netwerk gebeurt, op het niveau van de pakketjes. Het kijkt onder andere naar de headers van de pakketjes en naar eventuele volgende stappen die de verwerking ervan kunnen versnellen.
Al met al moet de G300 volgens Kucharewski en Cisco zorgen voor een efficiënter gebruik van het netwerk. Hij heeft het over een toename van 33 procent, dat uiteindelijk moet leiden tot een reductie in de tijd die het kost om taken af te ronden van 28 procent.
Intelligent Collective Networking
Cisco heeft datgene wat de Silicon One G300 bijzonder maakt gevat in de term Intelligent Collective Networking. Dit is een suite van features die het maximale uit het netwerk moeten halen. zo is de pakketbuffer 256 MB, waarmee de chip bursts op kan vangen die met name bij AI workloads redelijk vaak voorkomen.
Een tweede onderdeel van Intelligent Collective Networking is een intelligente load balancer. Pakketjes kunnen meerdere paden nemen van A naar B. De load balancer in de G300 kan hierbij zaken zoals fouten in de netwerklinks of stremmingen ergens stroomafwaarts meenemen. Dit moet ervoor zorgen dat pakketjes altijd de optimale route nemen. Dit soort inzicht impliceert ook dat er behoorlijk wat observability komt kijken bij de aansturing van de chip, anders is het onmogelijk om te weten of er een opstopping of stremming is. Kucharewski noemt dit “proactieve netwerktelemetrie”.
De pakketbuffer zorgt primair voor de 33 procent efficiëntere inzet van het netwerk. Dit klinkt op zich al als een stevige winst voor het netwerk. Als je daarbij bedenkt dat een dergelijke winst ook betekent dat er minder overprovisioning nodig is, dan wordt het ook vanuit financieel perspectief interessant. Met andere woorden, de infrastructuuruitgaven kunnen naar beneden. Dat is zonder meer een interessante bijvangst van deze efficiëntieslag.
Flexibel en dynamisch
Cisco heeft ervoor gezorgd dat het Silicon One-portfolio (en dus ook de G300) vrij flexibel is en blijft. Zo is de manier waarop de chips pakketjes verwerken hetzelfde. Dit maakt het mogelijk om achteraf nog features toe te voegen, simpelweg door de chips opnieuw of extra te programmeren.
Als voorbeeld van het toevoegen van features aan een chip zoals de G300 noemt Kucharewski het optimaliseren van de route die pakketjes nemen. Hoe een chip het optimale pad kiest hangt voor een deel af van de stand van de technologie. Een nieuwe generatie hardware kan hier nieuwe manieren voor hebben. Dat moet de G300 dan kunnen ondersteunen. Zeker gezien de stevige Capex-investering die dit soort hardware met zich meebrengt, is dat een cruciaal onderdeel van het platform.
Nieuwe hardware met Silicon One G300, ook met vloeistofkoeling
Tegelijk met de G300 kondigt Cisco ook meteen wat nieuwe producten aan. Zo komen er switches in de Nexus 9000-lijn met de nieuwe Silicon One-chip en krijgt ook de 8000-serie Cisco-routers een upgrade met de G300. De nieuwe modellen zullen beschikbaar komen in een ’traditionele’ luchtgekoelde variant, maar ook in een versie met vloeistofkoeling. Daarmee passen de nieuwe apparaten in vloeistofgekoelde datacenters die met name in de race naar 1 MW per rack steeds meer gemeengoed zullen worden.
Naast nieuwe switches en routers met Silicon One G300 kondigt Cisco vandaag ook nieuwe optics aan. Die moeten immers ook mee in de race. Zo komen 1,6T-optics die links tussen switch en NIC ondersteunen en links van 1,6T, 800G, 400G en 200G tussen switch en server. Daarnaast komt er een 800G LPO. Dankzij de geavanceerde software bovenop de G300 is het mogelijk om met het van oudsher beter presterende maar minder accurate (ten opzichte van getimede optics met geïntegreerde DSP) toch een hogere efficiëntie te bereiken. Een bijkomend voordeel van LPO is dat het minder energie verbruikt. Volgens Cisco kunnen klanten een energiebesparing verwachten van tot 30 procent.
Het geheel wordt zoals al het geval was beheerd vanuit Nexus One. Daar zit ook nog een link in met Hyperfabric, dat Cisco twee jaar geleden aankondigde. De Cisco N9000-systemen vormen de basis voor wat Cisco Unified Fabric noemt. Dit moet het uitrollen en aanpassen van netwerken sterk versnellen. Ook Hyperfabric kan hierin opgenomen worden.
De Cisco G300, de systemen die er gebruik van maken en de optics komen in de loop van dit jaar beschikbaar.