Microsoft breidt zijn Copilot-bug bounty-programma uit en verhoogt de beloningen, zelfs voor kwetsbaarheden met een matige ernst.
Waar voorheen geen vergoeding werd gegeven voor deze categorie, kunnen onderzoekers nu tot $5.000 verdienen. Daarnaast heeft Microsoft het aantal kwetsbaarheden waarvoor het betaalt aanzienlijk uitgebreid.
The Register citeert Lynn Miyashita en Madeline Eckert van het Microsoft-bountyteam. Zij stellen dat zelfs matige kwetsbaarheden grote gevolgen hebben voor de veiligheid en betrouwbaarheid van Copilot-producten. Onder het Copilot Bounty Program kunnen onderzoekers die onbekende kwetsbaarheden ontdekken en rapporteren beloningen ontvangen variërend van $250 tot $30.000. De meest ernstige beveiligingsproblemen, zoals code-injectie of modelmanipulatie, krijgen de hoogste vergoedingen.
Microsoft classificeert kwetsbaarheden in vier niveaus: kritiek, belangrijk, matig en laag. Deze indeling is gebaseerd op de Microsoft Vulnerability Severity Classification voor zowel AI-systemen als online diensten. De techgigant breidde het Copilot Bounty Program bovendien uit van drie naar veertien soorten kwetsbaarheden. Dit past in de bredere strategie om generatieve AI op grote schaal te integreren in zijn producten.
Extra trainingsprogramma’s
Voorheen richtte het programma zich op inference manipulation, model manipulation en inferential information disclosure. De nieuwe categorieën omvatten onder andere deserialisatie van onbetrouwbare data, code-injectie, authenticatieproblemen, SQL- of command-injectie, server-side request forgery (SSRF), onjuiste toegangscontrole, cross-site scripting (XSS), cross-site request forgery (CSRF), fouten in webbeveiligingsconfiguraties, cross-origin toegangsproblemen en onjuiste invoervalidatie.
Microsoft roept bug hunters op om zich te richten op kwetsbaarheden in specifieke diensten, waaronder Copilot voor Telegram en Copilot voor WhatsApp. En op de websites copilot.microsoft.com en copilot.ai. Het eerste AI-bug bounty-programma werd gelanceerd in oktober 2023 voor Bing’s AI-functies en werd in april 2024 uitgebreid naar Copilot.
Naast de verruimde bug bounty-vergoedingen en nieuwe doelwitten kondigde Microsoft vorig jaar ook extra trainingsprogramma’s voor AI-professionals aan onder de naam Zero Day Quest. Dit initiatief biedt workshops, toegang tot Microsoft AI-engineers en onderzoekstools.
Beveiliging AI blijft punt van zorg
Ondanks de inspanningen blijven er zorgen over de beveiliging van generatieve AI. Microsoft en andere grote techbedrijven implementeren deze technologie in hoog tempo, soms zonder de volledige implicaties voor beveiliging en privacy te doorzien. Een voorbeeld hiervan is Windows Recall, waar pas later veiligheidsrisico’s aan het licht kwamen.
Onderzoekers hebben herhaaldelijk manieren gevonden om grote taalmodellen zoals Copilot te jailbreaken, wat criminelen mogelijk in staat stelt om AI te misbruiken voor cyberaanvallen of zelfs wapensystemen. Ook data poisoning-aanvallen, waarbij bewust misleidende data in trainingsdatasets wordt geplaatst, veroorzaken schadelijke of foutieve AI-output. Dit vormt vooral een risico in sectoren zoals de gezondheidszorg.
Ondanks deze uitdagingen lijkt het onwaarschijnlijk dat softwarebedrijven het tempo van AI-integratie zullen vertragen. Mogelijk zorgen hogere bug bounty-beloningen ervoor dat onderzoekers sneller de ergste kwetsbaarheden opsporen voordat kwaadwillenden ze kunnen misbruiken.