Cisco maakt AI Defense veel krachtiger door Claude Mythos 5 erin te integreren. Dit betekent niet dat organisaties die AI Defense gebruiken nu volledige toegang tot Mythos krijgen. Wat het wel betekent, lees je in dit artikel.
De volgers van de AI- en securitymarkt zijn het afgelopen halfjaar ongetwijfeld platgebombardeerd met verhalen over Claude Mythos, het securitymodel van Anthropic. Dat was dermate gevaarlijk dat in eerste instantie maar een select groepje bedrijven er toegang toe kregen. Cisco was ook onderdeel van dit zogeheten Project Glasswing.
Wat je verder ook vindt van het opblazen van Mythos tot deze mythische proporties, Cisco kreeg vroeg toegang tot het model en kon er dus vroeg mee aan de slag. Vandaag kondigt het de integratie aan van Mythos in het eigen AI Defense. Deze integratie moet het red teamen van de AI die organisaties gebruiken veel krachtiger maken.
Ter opfrissing: wat is AI Defense ook alweer?
Cisco kondigde AI Defense in januari van 2025 aan. Het doel van AI Defense is simpel: het moet de inzet van AI binnen organisaties veilig mogelijk maken. Kort door de bocht kun je AI Defense op twee manieren gebruiken: standaard en adaptief. In de standaard, statische modus zoekt AI Defense naar een heleboel algemene kwetsbaarheden. Denk aan prompt injection, jailbreaks, blootstellen van gevoelige, dat soort dingen.
Deze standaardmethode werkt op zich prima tegen bekende, algemene kwetsbaarheden. Worden de aanvallers wat vernuftiger met de pogingen om de ingezette AI te kraken, dan loopt deze manier van red teamen tegen zijn limieten aan. Dat is waar de adaptieve manier van red teaming die AI Defense biedt om de hoek komt kijken. Die is veel meer toegespitst op de unieke omgeving en kenmerken van een organisatie. Hiermee kunnen organisaties heel gericht hun eigen omgeving red teamen.
Adaptief red teamen krijgt Mythos-boost
Nu we in de agentic AI-fase zitten waarin AI-agents (semi-)autonoom hun werk doen, is dat er niet eenvoudiger op geworden. Zeker als organisaties de inzet van AI willen opschalen, lopen de manieren waarop het mis kan gaan heel snel op. Met andere woorden, je moet eerst je observability, security en governance op orde hebben voordat je kunt gaan opschalen. Dit moet ook nog eens in runtime gebeuren, dus er moet een serieuze hoeveelheid intelligentie en rekenkracht bij te pas komen.
Met de toevoeging van Mythos 5-mogelijkheden aan de adaptieve red teaming van AI Defense moet het volgens Cisco mogelijk worden om de security van AI(-agents) op een veel hoger plan te krijgen. Dankzij de integratie kan AI Defense nu aanvalspaden genereren die bestaan uit meerdere stappen om zo subtiele kwetsbaarheden bloot te leggen, ook als de infrastructuur complex wordt. Binnen AI Defense wordt iedere actie opgeslagen voor auditing-doeleinden.
Klanten krijgen niet echt toegang tot Mythos
Het feit dat Cisco Mythos 5 integreert in AI Defense, betekent overigens niet dat klanten nu volledig toegang hebben tot Mythos. Dat zou sowieso een beetje vreemd zijn gezien alle poeha die er over het gevaar van Mythos is gemaakt in de afgelopen tijd. Het zou daarnaast ook niet echt werken zoals Cisco wil dat het werkt. Klanten maken gebruik van de interface van AI Defense, dat onderliggende Mythos in kan zetten.
We roepen hier al heel wat maanden en jaren dat organisaties de security van LLM’s niet moeten overlaten aan de LLM’s zelf. Dat moeten ze echt zelf regelen, want als het erop aankomt zijn de modellen zelf zo lek als een mandje. Om deze toch in te kunnen zetten, moet er bovenop en omheen het nodige gedaan worden om ze veilig in te kunnen zetten. Dat geldt voor het inzetten van publieke LLM’s in het algemeen, maar ook zeker voor Mythos. Cisco heeft dat nu dus gedaan.
Cisco temt Mythos en geeft het richting
Doordat Cisco als het ware een getemde versie van Mythos binnen AI Defense aanbiedt, heeft Mythos nu een vastgestelde taak en duidelijke doelen die door mensen zijn vastgesteld. De red teaming engine van AI Defense zet Mythos vervolgens in voor de taak die het moet doen.
Dit is wat ons betreft een goed voorbeeld van hoe organisaties naar de inzet van AI in het algemeen moeten kijken. Het niet inzetten van AI wordt steeds minder een optie, dus dan kun je het beter maar zo veilig mogelijk doen. Zeker in het geval van AI Defense is het toevoegen van de kracht van Mythos belangrijk, omdat aanvallers dit soort technologie ook gebruiken. De enige manier om daarop te reageren is als je iets gebruikt dat minstens net zo krachtig en snel is.