8min Analytics

Zonder realtime controle over autonome AI-agents is effectieve AI-governance onmogelijk

Zonder realtime controle over autonome AI-agents is effectieve AI-governance onmogelijk

Het klinkt als iets uit een film: AI-agents die uit hun testomgeving ontsnappen en zelfstandig doorgaan om een zo hoog mogelijke score te behalen. Toch gebeurde dit in juli 2026 bij Hugging Face, een open platform voor AI-ontwikkelaars. Een groep autonome AI-agents sloeg op hol en het incident kreeg wereldwijd aandacht. Het werd omschreven als de eerste cyberaanval door een groep zelfstandig werkende AI-agents. 

Dit is een goed voorbeeld van welke risico’s AI-agents met zich meebrengen. Voor beveiligingsspecialisten is het inmiddels geen verrassing meer dat AI-agents ongewenst gedrag kunnen vertonen. Bedrijven maken steeds vaker gebruik van nieuwe AI-tools, maar blijven voor het toezicht en de beveiliging vaak vertrouwen op verouderde werkwijzen, en dat brengt risico’s met zich mee. Als een AI-agent zich dan verkeerd gedraagt en niet op tijd kan worden gestopt, kan de schade zich snel verspreiden. Regels en afspraken over het gebruik van AI hebben weinig waarde als bedrijven niet kunnen ingrijpen.

Het gebruik van AI groeit snel, maar het toezicht blijft achter

Volgens het Data and AI Trust Gap-rapport van Veeam gebruikt of test 88 procent van de bedrijven al AI-agents, maar heeft slechts 40 procent van de leidinggevenden er vertrouwen in dat hun organisatie problemen met deze AI-agents kan beperken en de gevolgen kan terugdraaien. Ook op het gebied van gegevensbeveiliging hebben bedrijven moeite om problemen op te lossen. En hoewel bedrijven steeds meer investeren in regels en toezicht voor AI, blijven er risico’s bestaan. Gartner voorspelt dat in 2027 ongeveer 40 procent van de bedrijven autonome AI-agents zal terugschalen of stopzetten. Dit komt doordat tekortkomingen in het toezicht vaak pas zichtbaar worden als er al iets is misgegaan. Daarom is het belangrijk om te kijken of de bestaande regels en controles voldoende zijn om problemen met AI-agents te voorkomen en snel in te grijpen als het toch misgaat.

Wet- en regelgeving verschilt per land en is nog volop in ontwikkeling. Mede daardoor is het niet altijd duidelijk welke eisen er gelden voor het direct stoppen van AI-agents die ongewenst gedrag vertonen. In Nederland zijn er al regels die organisaties verplichten om snel te reageren op cyberincidenten. Volgens de Cyberbeveiligingswet, die in augustus 2026 van kracht werd en is gebaseerd op de Europese NIS2-richtlijn, moeten organisaties die onder deze wet vallen ernstige cyberincidenten binnen 24 uur melden. Daarnaast moeten organisaties volgens de Algemene verordening gegevensbescherming (AVG) bepaalde datalekken binnen 72 uur melden bij de Autoriteit Persoonsgegevens. Deze regels moeten ervoor zorgen dat bedrijven cyberincidenten sneller ontdekken, melden en aanpakken. Maar deze regels bepalen niet hoe snel een organisatie een AI-agent moet stoppen als deze zonder toestemming handelingen uitvoert. Daarnaast stellen ze ook geen specifieke eisen aan het terugdraaien van die handelingen en het herstellen van eventuele schade.

Omdat AI-systemen steeds vaker zelfstandig beslissingen nemen en taken uitvoeren, groeit de behoefte aan regels die specifiek gericht zijn op het toezicht op AI. De Europese AI Act, die ook in Nederland geldt, stelt daarom strengere eisen aan het toezicht op AI. Bij AI-systemen met een hoog risico moeten mensen snel kunnen ingrijpen als dat nodig is. Zij moeten beslissingen van het systeem kunnen negeren of aanpassen en het systeem kunnen onderbreken of stoppen. In Nederland wordt het toezicht op deze wet verdeeld over bestaande toezichthouders. De Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur spelen hierbij een coördinerende rol. Maar regels voor menselijk toezicht zijn pas effectief als organisaties in de praktijk ook op tijd kunnen herkennen wanneer een AI-agent ongewenste handelingen uitvoert en kunnen ingrijpen.

Hoe lastig dat in de praktijk kan zijn, blijkt uit een incident in Duitsland. In september 2026 maakten onderzoekers bekend dat AI-agents van OpenAI beveiligingsbeperkingen hadden omzeild en zonder toestemming berichten hadden geplaatst op DseWiki, een Duitse website voor softwareontwikkelaars. De agents gebruikten de website om informatie uit te wisselen en samen te werken. Dit gebeurde wekenlang zonder dat duidelijk was wat er precies aan de hand was. Het incident leidde tot oproepen van Europese politici om strenger toezicht te houden op autonome AI-agents. Dit laat zien dat organisaties niet alleen regels nodig hebben voor het gebruik van AI-agents, maar ook de middelen en richtlijnen om ongewenste handelingen tijdig te signaleren, agents direct te stoppen en eventuele schade te herstellen.

Bij AI-agents kan elke seconde tellen

Terwijl wet- en regelgeving achterblijft, nemen de risico’s van AI-agents wel toe. Waar cyberaanvallers vroeger soms weken of maanden nodig hadden om schade aan te richten, kunnen AI-agents dat in enkele minuten doen. Het AI Agents Gone Rogue-overzicht van Oso, waarin praktijkvoorbeelden van AI-agents die ongewenst gedrag vertonen worden verzameld, laat drie veelvoorkomende situaties zien:

  • AI-agents die ongecontroleerd handelen. Deze agents voeren onbedoeld schadelijke acties uit, bijvoorbeeld doordat ze te veel toegangsrechten hebben of instructies verkeerd begrijpen. Hierdoor kunnen ze binnen enkele seconden gegevens lekken, systemen aanpassen of bestanden verwijderen.
  • AI-agents die worden misleid. Cybercriminelen kunnen AI-agents manipuleren via aangepaste documenten, misleidende informatie of schadelijke websites. Zo kunnen agents bijvoorbeeld misleid worden om vertrouwelijke gegevens door te sturen, toegangsrechten te misbruiken of gekoppelde systemen verkeerd te gebruiken.
  • AI-agents die bewust worden ingezet voor aanvallen. Deze agents zijn speciaal ontwikkeld of aangepast om schade aan te richten. Ze kunnen bijvoorbeeld beveiligingssystemen omzeilen, toegang krijgen tot vertrouwelijke gegevens of digitale systemen aanvallen.

Het maakt niet uit hoe een AI-agent ongewenst gedrag vertoont: organisaties moeten deze snel kunnen stoppen en veel bedrijven zijn daar nog onvoldoende op voorbereid. Als een AI-agent niet direct kan worden uitgeschakeld, kan de schade zich snel verspreiden en dat kan leiden tot uitval van systemen en langdurige verstoringen van bedrijfsprocessen. Ook de Hype Cycle 2026 van Gartner geeft aan dat organisaties al bij de invoering van autonome AI-systemen moeten zorgen voor voldoende toezicht en controle. Snel kunnen ingrijpen is daarbij essentieel. Daarom moeten bedrijven in hun AI-beleid niet alleen vastleggen welke regels gelden, maar ook hoe snel ze kunnen handelen als er iets misgaat.

Proactieve governance in tijden van rogue AI is een strategische noodzaak

In plaats van te wachten op nieuw beleid voor de risico’s van agentic AI, zouden ondernemingen proactief moeten inzetten op realtime AI-governance. Dit moet een strategische prioriteit worden en de basis vormen voor de manier waarop organisaties omgaan met ongeautoriseerde activiteiten van AI-agents, zowel extern als intern. Terwijl het Hugging Face-incident de externe dreiging illustreert, laat een AI-agent die zonder mogelijkheid tot herstel een productiedatabase binnen een organisatie komt, zien hoe groot de interne risico’s zijn. Het eerste is een beveiligingsprobleem: niemand heeft de aanval van de agent gedetecteerd of gestopt. En het tweede is een probleem van digitale weerbaarheid: de organisatie kan niet herstellen naar een bekende, veilige situatie.

Om rogue AI-agents in realtime te stoppen, is een gecombineerde aanpak van beveiliging en resilience nodig. De volgende checklist bevat vijf belangrijke aandachtspunten:

  1. Wijs één verantwoordelijke aan voor AI-risico’s: Duidelijk eigenaarschap is essentieel. Volgens Veeam hebben organisaties waar de CISO verantwoordelijk is 24 procent meer kans om afwijkend gedrag van AI-agents te detecteren. Bij gedeelde verantwoordelijkheid is de kans om ongeautoriseerde activiteiten op te merken 47 procent kleiner.
  2. Zorg voor volledig inzicht in AI-agents: Breng alle actieve AI-agents in kaart, inclusief hun taken, toegangsrechten en verantwoordelijken. Dit is cruciaal, aangezien 93 procent van de senior leidinggevenden schaduw-AI als bedrijfsprobleem ziet.
  3. Bereid je voor op incidenten: Bepaal vooraf welke risico’s acceptabel zijn en zorg voor noodplannen, stopprocedures en handmatige alternatieven. Houd daarbij rekening met compliance, controleerbaarheid en totale eigendomskosten.
  4. Test beveiliging vóór implementatie: Test systemen continu in veilige testomgevingen, niet met productiegegevens. Veeam doet dit bijvoorbeeld met Anthropic binnen Project Glasswing, waarbij Mythos 5 helpt kwetsbaarheden vroegtijdig op te sporen.
  5. Kies voor gericht herstel: Met precision recovery kunnen organisaties exact vaststellen wat een AI-agent heeft gewijzigd en alleen getroffen bestanden herstellen vanuit betrouwbare back-ups. Zo beperken ze schade, downtime en operationele verstoringen.

Betrouwbare data en heldere communicatie zijn essentieel bij het beheersen van een AI-incident. Organisaties staan onder druk om autonome AI-agents snel in te zetten. Maar snelheid mag niet ten koste gaan van controle. En om risico’s te beperken, moeten organisaties goed zicht houden op de data en systemen waartoe AI-agents toegang hebben. Daarnaast zijn duidelijke beveiligingsmaatregelen nodig om ongeautoriseerde toegang te voorkomen. Zo kunnen organisaties afwijkend of ongewenst gedrag van AI-agents vroegtijdig signaleren, de gevolgen beperken en hun data beschermen. Wanneer een AI-agent gegevens verwijdert of wijzigt, kunnen gerichte herstelmogelijkheden daarbij helpen om die veranderingen ongedaan te maken. Hier blijft het principe garbage in, garbage out ook gelden: de kwaliteit van de output hangt af van de kwaliteit van de ingevoerde data. Maatregelen tegen ongewenst gedrag van AI-agents zijn dan ook pas echt effectief als de onderliggende gegevens betrouwbaar en van goede kwaliteit zijn. 

Naast deze technische maatregelen is heldere communicatie onmisbaar. Zeker nu organisaties nog ervaring opdoen met AI-agents, is het belangrijk om ook het vertrouwen van medewerkers te behouden. Incidenten bieden een kans om medewerkers beter te informeren, zorgen weg te nemen en uit te leggen welke maatregelen worden genomen. Transparantie en geloofwaardigheid zijn daarbij cruciaal, maar ook leidinggevenden moeten snel reageren, duidelijk communiceren, verantwoordelijkheid nemen en laten zien hoe problemen worden opgelost en herhaling wordt voorkomen. Over vijf jaar zullen we waarschijnlijk veel beter begrijpen hoe autonome AI-systemen werken en welke risico’s ze met zich meebrengen. Tot die tijd is het belangrijk om organisaties niet te laten afleiden door alle ophef rond AI, maar zich te richten op wat echt telt: betrouwbare data, goede beveiliging en heldere communicatie.

Dit is een ingezonden bijdrage van Veeam. Via deze link vind je meer informatie over de mogelijkheden van het bedrijf.