Terwijl de wereld in de ban van large language models was, dacht Nvidia al aan de volgende stap van AI. Fysieke robots, van antropomorfe arbeiders tot pick-and-place machines, zullen profiteren van ‘general robotics’. Dit is de stand van zaken na een nieuwe aankondiging van Nvidia.
De nieuwe robotische computers van Nvidia staan bekend als Jetson Thor en volgen Jetson Orin op. Er is ook een developerkit voor 3.499 dollar. Let wel: hoe vaak Nvidia het woord ‘robotica’ ook in de mond neemt, het ontwikkelt zelf geen robots, maar ‘slechts’ het brein.
Edge-runtime is een uitdaging
De AI-golf, zeker agentic AI, spreekt immens tot de verbeelding als het over robotica gaat. Wat als een AI-agent niet alleen een CRM-taak overneemt of e-mails automatisch plant, maar daarnaast de handen vuilmaakt in een fabriek? De begrenzing is alleen een stuk steviger wanneer het over fysieke AI gaat, want de latency van cloudgebaseerde AI is simpelweg te groot.
Het antwoord is een edge deployment, waarbij de robots lokale AI draaien. Dat maakt imposant AI-gedrag een stuk lastiger om te bewerkstelligen wegens de beperkingen qua ruimte, wattage, koeling en vaardigheden van de beschikbare modellen.
Desondanks belooft Jetson Thor krachtige redeneermodellen te hanteren met een latency van minder dan 50 milliseconden. Hierbij ontvangen de sensoren allerlei signalen vanuit de buitenwereld en weet de robot, indien goed gekoppeld aan de Nvidia-hardware, wel raad met de situatie waarin het zichzelf vindt.
Labs gaan aan de slag
Het is aan Nvidia’s klanten en partners om de AI-hardware fysiek daadkrachtig te maken. Daaronder vallen vele universiteiten, maar ook startups. De versnelling van Jetson Thor zal niet direct merkbaar zijn voor fysieke toepassingen, omdat robots nog met oudere systemen opereren.
Het is duidelijk dat Nvidia gelooft dat fysieke AI een minstens even grote stap zal worden als de LLM-revolutie dat was in de afgelopen jaren. Vandaag levert de nieuwe Jetson-apparatuur geen reuzensprong die fabrikanten gaan merken, maar de nieuwe mogelijkheden die slimmere, snellere en daadkrachtigere chips van Nvidia opleveren, vereisen de inspanning en creativiteit van anderen.
Lees ook: Nvidia onthult Spectrum-XGS Ethernet, ‘scale-across’ datacenters