Na Infrastructure-as-Code (IaC) komt nu Infrastructure-as-Prompt (IaP). Dat is althans hoe Dmitry Panenkov, oprichter en CEO van emma, het ziet. IaC loopt tegen limieten aan, dus is er met IaP een extra abstractielaag om die limieten te omzeilen, uiteraard aangeboden door emma. Wat is Infrastructure-as-Prompt nu precies en waarom komt juist het Luxemburgse emma met deze nieuwe manier om digitale infrastructuur te bouwen?
Infrastructure-as-Code was een prima manier om (cloud-)infrastructuur te bouwen en te draaien, horen we van Dmitry. Platform engineers waren echter vooral bezig met allerlei verschillende soorten IaC-tooling om zo de totale digitale infrastructuur zo goed mogelijk in te richten op basis van wat men dacht dat de bedoeling was. Met het steeds complexer worden van omgevingen moeten ze ook steeds meer resources beheren. Dit gaat onherroepelijk gevolgen hebben voor hoe snel de infrastructuur gebouwd en onderhouden kan worden.
Als het aan Dmitry ligt, stopt bovenstaande werkwijze. Hij noemt Infrastructure-as-Prompt onomwonden de vervanger van Infrastructure-as-Code. “In principe blijft het idee hetzelfde, je omschrijft wat je wilt hebben, maar je gebruikt geen scriptingtaal maar natuurlijke taal”, vat hij samen wat IaP uiteindelijk is.
IaP is gebouwd op bestaand platform
Op basis van bovenstaande omschrijving kun je denken dat we hier te maken hebben met een soort chatbot voor vibe coding zoals je die ook van de bekende LLM-aanbieders hebt. Dat is echter niet het geval bij de IaP-benadering van emma, horen we van Dmitry. IaP gebruikt het volledige onderliggende platform dat emma in de laatste acht jaar heeft gebouwd.
Intern is het bedrijf als eerste overgestapt van IaC naar IaP. Dat was volgens hem eigenlijk helemaal niet zoveel werk. De Unified API gateway uitbreiden om ook MCP te ondersteunen was bijvoorbeeld zo gedaan. Dus het was voor emma vrij logisch om datgene wat intern goed werkte ook beschikbaar te maken via het eigen managementplatform.
emma houdt AI in toom
AI kan echter niet zomaar ergens overheen gelegd worden, hoe goed het onderliggend platform ook is. emma heeft dan ook wel degelijk de nodige updates aan het eigen platform gedaan om goed te kunnen inspelen op hoe agents werken en hoe mensen ermee interageren. “Als je iets prompt, doet het exact wat je wilt dat het doet. Snapt het niet wat je wilt doen, dan stelt het meer vragen, bijvoorbeeld om het specifieker te maken”, geeft Dmitry aan. De goedkoopste instance voor een specifieke workload kan best eens ergens staan waar je de workload niet wilt draaien. De AI agents die emma inzet kunnen dan om verduidelijking vragen.
Als we doorvragen om te snappen hoe IaP daadwerkelijk in elkaar steekt bij emma, horen we dat het een behoorlijk fijnmazige benadering is. IaP gebruikt meer dan 180 AI agents die allemaal tegelijk hun werk doen. Iedere agent heeft een zeer beperkt takenpakket. Zo zijn er agents die monitoren, maar ook agents voor security, agents die zich alleen met connectors bezighouden en agents die netwerkverbindingen beheren.
We kunnen de werking van IaP volgens Dmitry het beste zien als een leger, waar soldaten, officieren, generaals en de hoogste in rang, de mens, samen ten strijde trekken. Ieder van hen doet precies wat ze moeten doen. Concreet kan dat zijn “zorg dat je een IP-adres krijgt”, “lees deze API uit”, dat soort zaken. Elke AI agents bevestigt vervolgens wat deze heeft gedaan.
Al met al gaan alle commando’s door vijf lagen heen. In totaal duurt het maar een paar seconden, dus het is ook nog eens vrij snel. Daarnaast heb je volgens Dmitry continu zicht op hoe het werkt en welke stappen er genomen worden. Je kunt zelf ook nog aanpassingen maken tijdens het proces.
Waarom emma?
emma heeft overduidelijk werk gestoken in het ontwikkelen van IaP. Gezien de historie in het abstraheren van IaC naar een hogere laag is het ook conceptueel een van de aangewezen partijen om IaC verder te ontwikkelen richting IaP. Onderdeel van de IaC-benadering was namelijk altijd al dat het geen commerciële voorkeur had als het gaat om waar workloads draaien en welke infrastructuur ervoor ingezet wordt. Dat kon het ook zo doen, omdat het een breed spectrum aan aanbieders ondersteunt. Volgens emma zelf zijn dat er inmiddels meer dan 15, van hyperscalers, soevereine clouds en AI-clouds tot on-prem-aanbieders.
Een andere belangrijke component van het verhaal van emma is de eigen 400 Gbps private backbone die het heeft. Dat betekent dat emma geen egress-kosten in rekening hoeft te brengen als data verplaatst moet worden.
Al met al heeft emma een goed verhaal om Infrastructure-as-Prompt in de markt te zetten. De demo’s die we hebben gezien koppelen prestaties, kosten en governance aan elkaar om workloads altijd daar te draaien waar ze het beste renderen. Integraties met messaging apps zorgen ervoor dat het niet per se nodig is om in te loggen in een dashboard als er een melding binnenkomt dat iets niet goed gaat. De engineer kan dan gewoon een berichtje terugsturen en op die manier meteen ingrijpen.
Geen reden om IaC te blijven gebruiken
Dmitry is duidelijk tijdens ons gesprek. Er is geen enkele reden voor organisaties om Infrastructure-as-Code te blijven gebruiken. “Het is alleen een andere manier om hetzelfde resultaat te krijgen”, volgens hem. Als we ervan uitgaan dat het harnas dat emma heeft gebouwd voor de AI agents die het platform gebruikt de agents ook daadwerkelijk in toom kan houden, dan kan IaP erg interessant zijn. Dit is met name het geval voor organisaties die nu al tegen de limieten van IaC lopen en organisaties die druk bezig zijn om van AIOps een prioriteit te maken.
Infrastructure-as-Prompt is onderaan de streep geen enorm revolutionair principe, omdat het voortborduurt op dezelfde principes als Infrastructure-as-Code. Het moet echter wel goed geïmplementeerd worden. emma is ervan overtuigd dat het hiervoor uitstekend is gepositioneerd. Het heeft de evolutie zelf al doorgemaakt. Nu de rest van de markt nog.
Lees ook: emma wil multi-cloud voor iedereen bereikbaar maken