Microsoft gebruikt Project Perception voortaan ook om AI-agents binnen organisaties te bewaken. Guardian Agents beoordelen elke actie van een agent voordat die wordt uitgevoerd. Volgens Microsoft zijn frontier-modellen niet te vertrouwen, ongeacht waar ze vandaan komen.
Tot nu toe ging de meeste aandacht uit naar aanvallers die krachtige AI-modellen misbruiken. Microsoft kijkt nu ook naar de agents die organisaties zelf hebben uitgerold, ook wel de agentic insiders. Volgens Microsoft vertrouwen organisaties hun eigen agents te makkelijk, juist omdat ze die zelf hebben ingezet.
Microsoft legt uit waarom dat vertrouwen niet terecht is. Modellen zijn niet kwaadaardig, maar ze zijn getraind om resultaten te halen. Dat leidt vaak tot reward hacking. Bovendien houden modellen geen rekening met de normen en het beoordelingsvermogen van een organisatie. Agents passen zich aan als de context verandert, gedragen zich niet altijd zoals bedoeld en kunnen met andere agents samenwerken of zelfs samenspannen om hun doel te bereiken. Daarvoor hoeven ze niet eens gecompromitteerd te zijn.
Eerst tegen aanvallers, nu ook voor eigen agents
Microsoft kondigde Project Perception 27 juli aan als verdediging tegen AI-gedreven aanvallen van buitenaf. Daarbij werken teams van agents samen: red agents zoeken naar aanvalspaden, blue agents onderzoeken wat die bevindingen betekenen en green agents voeren herstelmaatregelen uit. Sinds 3 augustus is het systeem als preview beschikbaar.
Diezelfde cyber stack zet Microsoft nu in voor interne agents, in drie lagen. Eerst bundelt het systeem signalen van identiteit, data, cloud, endpoints, netwerk en runtime. Zo worden agents opgespoord en krijgen ze een identiteit, een container, beleidsregels en rechten. Op basis van die signalen berekent het systeem daarna steeds opnieuw hoe riskant een actie van een agent is. Tot slot houden Guardian Agents, ondersteund door green en blue agents, continu toezicht op elke actie.
Securityteams kunnen achteraf nagaan wat er gebeurde en waarom een risico ontstond. “Agentic security levert snelheid. Practitioners leveren beoordelingsvermogen”, schrijft Microsoft.
Is dat genoeg? Microsoft vindt van niet. Securitysystemen kunnen nu goed zien wat agents doen, maar nog niet waarom. Daarvoor is volgens het bedrijf meer transparantie nodig in het model zelf. Dat betekent niet alleen inzicht in input- en output-tokens, maar ook in de thinking- en chain-of-thought-tokens. Pas dan valt na te gaan of wat het model wil past bij de taak van de agent.
Tip: Microsoft Agent Framework: multi-agent systemen krijgen vorm