De regering van Donald Trump wil geavanceerde AI-modellen laten beoordelen door federale instanties voordat ze worden uitgerold. De nieuwe aanpak moet de Verenigde Staten beter beschermen tegen mogelijke cyberdreigingen die kunnen ontstaan door steeds krachtigere AI-systemen.
Trump ondertekende hiervoor een executive order die meerdere ministeries opdracht geeft afspraken te maken met AI-ontwikkelaars over vrijwillige veiligheidstests. Onder meer de ministeries van Defensie, Handel, Financiën en Binnenlandse Veiligheid krijgen een rol bij de uitvoering.
Volgens het besluit mogen overheidsinstanties nieuwe AI-modellen tot dertig dagen onderzoeken voordat deze beschikbaar komen voor externe organisaties. Daarbij ligt de nadruk op risico’s voor cybersecurity en nationale veiligheid.
De maatregel volgt op toenemende zorgen in Washington over de snelle ontwikkeling van geavanceerde AI. Vooral modellen die zelfstandig kwetsbaarheden kunnen opsporen of complexe taken uitvoeren, trekken de aandacht van beleidsmakers. De recente introductie van Anthropic’s Mythos-model speelde daarbij eveneens een rol, meldde Reuters.
De stap is opmerkelijk omdat Trump zich sinds zijn terugkeer in het Witte Huis juist terughoudend opstelde tegenover regulering van de technologiesector. Het nieuwe beleid wijst erop dat de regering AI inmiddels als een strategisch veiligheidsvraagstuk beschouwt.
Industrie werkt mee
De tests zijn vrijwillig, maar de belangrijkste spelers lijken bereid mee te werken. Volgens Amerikaanse functionarissen hebben OpenAI, Anthropic en Google al overleg gevoerd met de overheid over de invulling van het programma.
De evaluaties worden uitgevoerd door het Center for AI Standards and Innovation (CAISI), onderdeel van het Amerikaanse ministerie van Handel. Deze organisatie moet uitgroeien tot het centrale punt voor de beoordeling van commerciële frontier AI-modellen. Daarbij wordt gekeken naar risico’s rond cyberveiligheid, bioveiligheid en mogelijke toepassingen voor chemische wapens.
Google, Microsoft en xAI maakten eerder al bekend dat zij niet-uitgebrachte versies van hun modellen beschikbaar stellen voor dergelijke onderzoeken. Daardoor krijgt de overheid toegang tot AI-systemen voordat deze commercieel worden uitgerold.
Google noemde het besluit een belangrijke stap vooruit. Anthropic wil samenwerken met het Witte Huis bij de uitvoering. OpenAI-topman Sam Altman stelde dat de VS zowel moet blijven investeren in geavanceerde modellen als in maatregelen om die veilig te houden.
Trump had de ondertekening oorspronkelijk gepland voor 21 mei, maar stelde die uit. Volgens Reuters wilde hij voorkomen dat nieuwe maatregelen de Amerikaanse positie in de AI-concurrentiestrijd met China zouden verzwakken.
Bescherming van vitale sectoren
Een belangrijk onderdeel van het initiatief richt zich op kritieke infrastructuur. Minister van Financiën Scott Bessent krijgt de opdracht om samen met AI-leveranciers en organisaties uit essentiële sectoren software te onderzoeken op kwetsbaarheden en waar nodig beveiligingsupdates te ontwikkelen.
Daarbij gaat het onder meer om banken, zorginstellingen en hulpdiensten. De overheid wil voorkomen dat zwakke plekken in software of AI-systemen kunnen worden misbruikt om cruciale voorzieningen te ontregelen.