De interactie tussen AI en cybersecurity wordt steeds complexer. Hoe moeten organisaties hier in de praktijk mee omgaan? In deze aflevering van Techzine Talks gaan we daar diep op in met Erik de Jong en Eric van Gend, respectievelijk CRO en CEO van Tesorion. Hoe kunnen organisaties AI inzetten zonder de controle te verliezen en hoe gebruikt Tesorion AI in het eigen SOC en de eigen diensten?
Een van de aanleidingen voor dit gesprek is de openbaring van twee concrete recente incidenten. Bij OpenAI wisten agents op eigen houtje de sandbox te verlaten en Hugging Face te hacken. OpenAI kwam er pas achter toen Hugging Face zelf aan de bel trok. Bij Anthropic speelde een vergelijkbaar incident met Claude-agents. Dit soort incidenten stralen niet goed af op zowel OpenAI als Anthropic, geven beide heren aan. Als je bedenkt hoeveel middelen dit soort bedrijven hebben, dan valt het enorm tegen dat dit schijnbaar zo eenvoudig kan gebeuren. Er schort dan het nodige aan de monitoring, onder andere. Het kan er ook voor zorgen dat bedrijven die deze platformen gebruiken zich achter de oren gaan krabben.
Shadow AI
Een andere reden om dit gesprek aan te gaan is de opkomst van Shadow AI: medewerkers die op eigen initiatief AI-tools gebruiken, buiten het zicht van IT en security. Beide gasten zijn het erover eens dat blokkeren geen oplossing is. Dat ging met Shadow IT ook niet goed. Zo’n tachtig procent van de mensen luistert dan misschien, maar twintig procent vindt andere manieren. Dan ben je de controle kwijt en gaat data in een commercieel model zitten waar het getraind wordt.
De betere aanpak is gecontroleerde facilitering. Dat begint met inzicht: wat stoppen medewerkers eigenlijk in AI-tools? Oplossingen zoals Prompt Security van SentinelOne (dat Tesorion zelf ook gebruikt in de diensten die het aanbiedt) maken dat inzichtelijk en helpen organisaties te bepalen welke tools toegestaan zijn en onder welke voorwaarden. Tesorion organiseerde recent een Lunch & Learn over dit onderwerp en ziet in de markt dat de interesse duidelijk groeit, al staan de meeste organisaties nog aan het begin van dit pad.
Een bijkomend risico is AI die via SaaS-updates de organisatie binnensluipt. Een product krijgt een upgrade en bevat ineens een AI-component. De Jong: “Dan moet je niet per se altijd vertrouwen op wat de SaaS-leverancier eraan doet om dat veilig te houden. Je moet bij upgrades opletten wat je aan het upgraden bent.” De kernvraag is altijd: wat gebeurt er met mijn data? Gaat die naar een extern commercieel model, of blijft die binnen de eigen tenant?
AI in het SOC
Tesorion zet AI in binnen het eigen SOC, maar op een bewust beheerste manier. Het model draait in een eigen tenant en is getraind op eigen data. Klanten kozen via een opt-in: zo’n 95 procent stemde toe, een klein deel nog niet. De eerste succesvolle use case is de detectie van kwaadaardige domeinen, met name voor B2C-klanten die last hebben van nepdomeinen en valse webshops. Wat handmatige filtering maar beperkt kon filteren, doet een LLM honderd keer beter, horen we van de De Jong en Van Gend
Kwaliteitsbewaking blijft echter cruciaal. In het SOC van Tesorion is de werkwijze zo ingericht dat de AI een analyse doet, en de analist daarna verplicht is om zelf ook een analyse te maken en die te vergelijken met de LLM-output. De Jong waarschuwt voor op de lauweren rusten: “Op een gegeven moment denken mensen dat het toch altijd goed is. Dat is juist de uitdaging: hoe blijf je zorgen dat de kwaliteit op peil blijft?” Het wegautomatiseren van junioranalisten is in ieder geval sowieso geen goed idee of doel. Integendeel: AI maakt het mogelijk dat analisten betere analyses maken, niet dat er minder analisten nodig zijn.
Bij een business e-mail compromise-aanval kunnen honderden of zelfs duizenden tickets tegelijkertijd binnenkomen. AI helpt om die te clusteren en te prioriteren, zodat analisten alleen de relevante zaken hoeven te beoordelen. De kwaliteit en effectiviteit van het SOC gaan omhoog, terwijl het aantal false positives daalt.
Automatisch ingrijpen: shoot first, ask later?
Een ander thema is automatisch ingrijpen. Dat wil zeggen, zonder tussenkomst van een mens een account locken of een verbinding blokkeren zodra er kwaadaardige activiteit wordt gedetecteerd. De time-to-exploit daalt snel; er wordt al gesproken over aanvallen die binnen minuten succesvol zijn. Mensen kunnen dat tempo simpelweg niet bijhouden.
Tesorion maakt met klanten de afspraak of en wanneer automatisch ingrijpen mag. “Shoot first, ask questions later”, zoals Van Gend het noemt, is op zich een goede strategie, maar vereist maatwerk: de CFO op de laatste dag van het kwartaal locken is iets anders dan een standaard gebruikersaccount. En in OT-omgevingen geldt een heel ander regime: uptime is heilig en automatisch stilleggen is doorgaans geen optie.
Overigens heeft het meeste van wat SOC’s nu al automatisch doen niets met AI te maken, nuanceren Van Gend en De Jong. Dat zijn deterministische regels. Het verschil met AI is dat AI non-deterministisch is: het ene moment kan het goed gaan, tien minuten later kan hetzelfde geval fout beoordeeld worden. Dat maakt continue kwaliteitsbewaking des te belangrijker.
Gevaren van MDR (met AI) zonder security-expertise
Een zorgelijke trend die Van Gend signaleert is dat partijen die geen securitybedrijf zijn op basis van een kant-en-klare AI-tool managed detection & response gaan aanbieden. Ze kopen een compleet AI-pakket, zetten dat voor klanten in, maar hebben geen zicht op wat er met de data gebeurt, welke modellen worden gebruikt en wat de implicaties zijn. “Je hebt dus geen controle meer, want het is een technologie die je gebruikt zonder dat je enige controle of enig zicht hebt op wat dat nou allemaal doet.”
Dit raakt aan het bredere ‘platformization’-debat in security: grote spelers bouwen alles-in-één-platforms. De aantrekkingskracht is begrijpelijk, maar verklaarbaarheid, uitlegbaarheid en openheid zijn niet gegarandeerd. Tesorion biedt bewust een puur securityplatform aan, met de mogelijkheid om componenten te vervangen en modellen te switchen. Het deelt ervaringen ook actief met klanten en partners. Het preekt in dit opzicht dus duidelijk voor eigen parochie als het aangeeft dat cybersecurity het beste aangeboden kan worden specialisten. Op zich is het met de opkomst van AI nu wat ons betreft ook wel gewoon een verstandig verhaal.
Kijk en luister nu naar deze meest recente aflevering van Techzine Talks voor nog veel meer achtergronden, inzichten en voorbeelden van hoe AI en security in de praktijk met elkaar schuren, maar elkaar ook kunnen versterken.