Nvidia brengt AI-supercomputing naar netwerk-edge

Nvidia introduceert het EGX Edge-supercomputingplatform. De EGX Edge moet krachtige AI-capaciteiten naar de netwerkrand brengen zodat de rekencapaciteit zo dicht mogelijk bij de data staat.

Nvidia lanceert wat het als de volgende stap in de evolutie van HPC-computing en AI ziet: de EGX Edge. Dat is een krachtig AI-rekenplatform gebouwd voor gebruik waar de data gegenereerd wordt: de netwerkrand. Dat is volgens CEO Jensen Huang nodig om realtime-AI een werkelijkheid te maken.

Traditioneel wordt sensordata immers naar de cloud gestuurd waar de AI-analyse of inferentie plaatsvindt. Dat zorgt niet alleen voor latency, het is bovendien een kostelijke affaire omwille van de benodigde bandbreedte. Tot voor kort was de aanpak de enige realistische aangezien algoritmes stevige hardware vereisten die je in de praktijk enkel in een datacenter kon terugvinden. Betere algoritmes en efficiëntere chips zorgen er echter voor dat dat vandaag niet meer waar is.

AI aan de rand

Vanuit dat standpunt werd de EGX Edge geboren. Het toestel is niet groter dan een traditionele server maar heeft voldoende rekenkracht aan boord om complexe AI-taken uit te voeren. Centraal staan grafische kaarten van Nvidia samen met het Cuda-X-softwarepakket. Nvidia verwacht dat EGX Edge over de hele wereld wordt uitgerold waar data wordt gegenereerd. Denk aan fabrieksvloeren, slimme steden of grootwarenhuizen.

Eén van de toepassingen die de Edge-server ondersteunt is Nvidia Metropolis, een platform voor slimme video-analyse. In de VS gebruiken San Francisco en Las Vegas al camera’s gekoppeld aan het EGX-systeem om voetgangers te analyseren, onder andere om de straten veilig te houden maar ook om verkopers een idee te geven over de hoeveelheid mensen die in een winkelstraat passeert. BMW rustte dan weer een fabriek uit met camera’s en de Edge-server voor automatische inspectie van wagens die van de band rollen. Dergelijke data wordt dankzij EGX Edge in realtime op locatie geanalyseerd zonder dat beelden de kostelijke reis naar de cloud moeten maken.

Planetair netwerk

Nvidia en Huang zien het groots. Computing als concept zal volgens de CEO voorbij het persoonlijke en voorbji de cloud evolueren naar een planetaire schaal. De bouwstenen van die visie zullen toestellen als de EGX Edge zijn.

De introductie van Nvidia past bij de evolutie die al enige tijd gaande is. Na een initiële stormloop naar de cloud beseffen organisaties vandaag dat een hybride verhaal het interessantst is. Workloads moeten op de meest optimale plaats draaien. Dat is soms in de cloud, soms on premises, maar steeds vaker waar de data is: de edge.

OEM’s

EGX Edge is meer platform dan toestel. Het is niet zo dat Nvidia één bak zal lanceren en dat daarmee de kous af is. De introductie gaat gepaard met de onthulling van specificaties voor een referentiedesign. Met Nvidia T4, Quadro RTX 8000 en V100 Tensor Cores aanboord. Toestellen die aan de vereisten voldoen, worden als NGC-Ready for Edge gecertifieerd. Onder andere Dell, HP Inc, Lenovo en SuperMicro zetten Edge-servers in de markt.