Google Threat Intelligence Group stuitte op een volledig geautomatiseerde cyberaanval waarbij Franse websites het doelwit waren. Alles van het ontdekken van kwetsbaarheden tot de exploitatie ervan en installatie van webshells was AI-gedreven. Het is de voorhoede van een reeks cyberaanvallen die de legitieme IT-infrastructuren van de wereld dreigt plat te leggen.
De Franse sites in kwestie zijn actief binnen media, entertainment en het onderwijs. Het systeem heet exploit_agent en stond op een blootgestelde stagingserver. Een reeks AI-agents vergeleek daar continu code van vóór en na een patch. Zo spoorden ze kwetsbaarheden op, waarna ze automatisch exploits ontwikkelden. Vervolgens kon het systeem wachtwoorden brute-forcen en webshells installeren.
Russische sporen, Franse doelwitten
In de technische documentatie was Russische tekst te vinden. Echter koppelt Google de aanval niet definitief aan een specifieke Russische hackersgroep. In plaats daarvan draait de onthulling om de technieken die de groep gebruikte, in plaats van dat het om een specifieke dader ging. Het systeem, van wie het ook was, liet duidelijke sporen achter en had dus geen mechanisme om dit te wissen, wat wel een gebruikelijke feature is bij malware.
Tot nu toe konden zelfs de meest geavanceerde AI-modellen geen volledig zelfstandige aanvallen uitvoeren. In het geval van de AI-labs is dit overwegend omdat de guardrails en verdere API-controles malafide acties zoveel mogelijk blokkeren. Enkel via duidelijke exploits is een LLM van de grote spelers te misbruiken, maar aanvallers struikelen continu op blokkades als ze werkelijk een actie zouden uitvoeren als deze. Ervaren hackers moeten veelal open-weight modellen direct aansturen of hun fouten herstellen. AI was en is nog steeds op basaal niveau voor hen een aanjager voor aanvallen, en het maakt ze daadkrachtiger met overtuigendere phishing, snellere scripts en gerichter qua doelwitten.
Die ontwikkeling volgt GTIG al langer en is breed bekend. In september zag Google bijvoorbeeld hoe aanvallers met multi-agentframeworks binnen zes uur een aanvalscampagne opzetten die duizenden credentials buitmaakte. Ook meldde het bedrijf in april dat AI vermoedelijk hielp bij het ontwikkelen van een zero-day voor een populaire open-source webtool. Die aanval werd onderschept voordat grootschalig misbruik plaatsvond.
Het onderwerp ligt sinds april extra gevoelig, toen Anthropic zijn gespecialiseerde model Mythos uitbracht dat achter de schermen het gehele kalenderjaar al draait bij het AI-bedrijf intern. Afgelopen zomer drong bovendien een zwerm OpenAI-agents het Hugging Face-platform binnen, met een flinke nasleep die allerlei andere incidenten ontrafelde die maanden onbekend waren gebleven. Die agents handelden ook autonoom, maar leken niet kwaadwillig op specifieke doelwitten gericht.