Google lanceert Agent Sandbox, een nieuwe Kubernetes-primitive built voor AI-agents. De technologie biedt kernel-level isolatie en moet duizenden sandboxes parallel kunnen draaien.
Google bouwde Agent Sandbox als open-source project binnen de Cloud Native Computing Foundation. De technologie is gefundeerd op gVisor, met aanvullende ondersteuning voor Kata Containers. Dit levert kernel-level isolatie die kwetsbaarheden tegengaat.
Elke taak van een agent krijgt een eigen geïsoleerde sandbox. Gebruikers verwachten dat de infrastructuur meeschaalt, zelfs wanneer duizenden sandboxes tegelijk draaien. “Bij een verzoek als ‘visualiseer de salesdata van de laatste kwartalen’ moet de agent één tool gebruiken om de gegevens op te vragen en een andere tool om die gegevens in een grafiek te verwerken en deze naar de gebruiker terug te sturen”, legt Google uit.
Voor AI-ontwikkelaars biedt de built een Python SDK waarmee ze de lifecycle van sandboxes beheren zonder infrastructuurkennis. Een simpele context manager volstaat om een sandbox op te zetten en commando’s uit te voeren.
Prestatievoordeel op GKE
Op Google Kubernetes Engine haalt Agent Sandbox extra performance. Door pre-warmed pools met sandboxes te configureren, daalt de latency tot onder een seconde. Dat is 90 procent sneller dan cold starts.
Daarnaast introduceert Google Pod Snapshots, exclusief voor GKE. Deze functie maakt checkpointing en herstel van draaiende pods mogelijk. Sandboxes kunnen vanuit snapshots opstarten, wat de opstarttijd terugbrengt van minuten naar seconden. Ook GPU-workloads worden ondersteund.
Idle sandboxes kunnen worden gesnapshot en opgeschort. Daarmee bespaart men compute-cycles zonder verstoring voor eindgebruikers. Dit optimaliseert het gebruik van schaarse resources.
Agent Sandbox is nu beschikbaar als open-source project en kan direct worden ingezet op GKE. Pod Snapshots bevindt zich in limited preview en wordt later dit jaar algemeen beschikbaar voor alle GKE-klanten. Documentatie en quickstarts zijn online te vinden.
Tip: Google introduceert serverless-versie van Kubernetes Engine