Kleine AI-modellen zullen op korte termijn in staat zijn zichzelf te verspreiden over consumentenapparaten, zoals smart home devices en goedkopere Android TV-apparatuur.
Dit blijkt uit onderzoek van Anthropic. Het bedrijf stelt dat door AI aangestuurde ‘wormen’ al aan het eind van dit jaar realiteit zullen zijn.
Tijdens een reeks experimenten onderzocht Anthropic of AI-modellen zichzelf konden repliceren zonder afhankelijk te zijn van conventionele datacenters. De onderzoekers concludeerden dat modellen met minder dan 30 miljoen parameters nu al individuele stappen konden uitvoeren die nodig zijn voor autonome replicatie. Die modellen kunnen dit echter op dit moment nog niet betrouwbaar genoeg.
Bij een van de experimenten lieten onderzoekers het Gemma4-26B-A4B-model van Google los op vijftien Android TV-boxen, die slechts 55 dollar kostten. Uit het experiment bleek dat relatief krachtige AI-modellen kunnen draaien op gedistribueerde consumenten hardware, en dus geen speciale servers nodig hebben.
Een nieuwe generatie botnets
In tegenstelling tot conventionele malware, die meestal afhankelijk is van vooraf gedefinieerde instructies, zouden AI-gestuurde wormen hun gedrag kunnen aanpassen aan onbekende hardware- en softwareomgevingen. Hierdoor zou de malware zich kunnen verspreiden over verschillende soorten devices.
Anthropic testte ook het grotere GLM-5.2 model, dat zichzelf succesvol wist te repliceren in een vereenvoudigde experimentele omgeving. De onderzoekers stellen wel dat de resultaten niet aantonen dat de modellen in de praktijk al in staat zijn zich autonoom te verspreiden over netwerken.
Dit onderscheid is van belang, geven de onderzoekers aan. Bij de experimenten werden belangrijke aspecten van het overnemen van apparaten vereenvoudigd, zoals toegang tot de devices. Waarschijnlijk blijft het omzeilen van beveiligingsmaatregelen nog een aanzienlijke hindernis voor de ‘wormen’. Toch verwacht Anthropic dat kleinere AI-modellen over een paar maanden over de benodigde capaciteiten kunnen beschikken.
Lastige detectie
De systemen verspreiden zich in de praktijk waarschijnlijk langzaam. Door hun gedistribueerde aard zou het echter lastig kunnen worden om ze met conventionele detectiemethoden te ontdekken en te verwijderen.
De resultaten van het onderzoek roepen volgens Anthropic zorgen op over een situatie waarin AI-gestuurde malware niet langer afhankelijk is van gecentraliseerde infrastructuur. In plaats daarvan zouden gecompromitteerde consumentenapparaten gezamenlijk de rekenkracht kunnen leveren die autonome AI-systemen nodig hebben om zich te verspreiden.