OpenAI kondigde woensdag aan dat het een nieuwe adviesraad opricht, de Frontier Risk Council, als onderdeel van een bredere strategie om de risico’s rond geavanceerde AI-modellen beter te beheersen.
Dit meldt Reuters. OpenAI waarschuwde dat de volgende generatie modellen een aanzienlijk hoger cybersecurityrisico kan vormen, omdat ze steeds beter in staat lijken om complexe kwetsbaarheden te identificeren of zelfs nieuwe, werkende zero-day-exploits te ontwikkelen. Ook zouden de systemen volgens OpenAI mogelijk kunnen bijdragen aan digitale infiltraties in bedrijfs- of industriële omgevingen die gericht zijn op fysieke effecten in de echte wereld.
De Frontier Risk Council moet een centrale rol spelen in het beperken van dergelijke dreigingen. Deze adviesgroep bestaat uit ervaren cybersecurityspecialisten en andere experts op het gebied van digitale verdediging. Zij gaan nauw samenwerken met de technische teams van OpenAI en helpen bij het inschatten van risico’s, het afstemmen van modelcapaciteiten en het ontwikkelen van veiligheidskaders voor toekomstige releases.
De raad start met een focus op cybersecurity, maar wordt op termijn breder ingezet voor andere risico’s die ontstaan door steeds krachtigere AI-modellen.
Focus op defensieve cybersecuritytaken
Tegelijkertijd investeert OpenAI in AI-functionaliteit die juist defensieve cybersecuritytaken moet ondersteunen. Het bedrijf werkt aan modellen en tools die securityteams moeten helpen bij werkzaamheden zoals code-audits en het verhelpen van kwetsbaarheden. Deze defensieve benadering wordt aangevuld met strengere toegangscontrole, versteviging van de infrastructuur, beperkingen op uitgaand dataverkeer en uitgebreidere monitoring om misbruik te voorkomen.
Daarnaast bereidt OpenAI een programma voor dat bepaalde gebruikers en organisaties die zich bezighouden met cyberverdediging toegang moet geven tot geavanceerdere AI-mogelijkheden, afhankelijk van hun rol en betrouwbaarheidsniveau. Zo wil het bedrijf de beschikbaarheid van krachtige functies beter reguleren, terwijl professionele verdedigers wel kunnen profiteren van de voordelen ervan.
Met de lancering van de Frontier Risk Council, de nieuwe defensieve tooling en striktere veiligheidsmaatregelen probeert OpenAI een balans te vinden tussen innovatie en risicobeheersing. Volgens het bedrijf vraagt de toenemende impact van geavanceerde AI om nauwe samenwerking met externe experts, zodat de verdere ontwikkeling verantwoord kan plaatsvinden.