Nvidia start samen met tientallen tech- en securitybedrijven de Open Secure AI Alliance. Het initiatief wil open modellen, tools en technieken delen waarmee verdedigers hun eigen AI-security kunnen bouwen. Vorige week maakte een incident bij Hugging Face veel los over de gevaren van autonome AI-agents.
De alliantie draait om een keuze die volgens de deelnemers steeds urgenter wordt: draaien de verdedigingen die onze infrastructuur beschermen straks in een handvol gesloten systemen of op open modellen en tools die iedere verdediger kan bestuderen, aanpassen en zelf draaien? Nvidia en de oprichters kiezen voor dat laatste.
Het initiatief bouwt voort op de Akrites-initiatief van de Linux Foundation en het werk van de OpenSSF-community. Volgens de deelnemers heeft de wereld zowel gesloten als open modellen nodig, maar zijn open modellen essentieel voor cybersecurity omdat ze verdedigende capaciteiten democratiseren en een gedistribueerde verdediging mogelijk maken zonder single point of failure.
Waarom het incident bij Hugging Face zo veel gewicht krijgt
De alliantie verwijst direct naar het recente security-incident bij Hugging Face. Toen commerciële, gesloten AI-tools geen onderscheid konden maken tussen aanvaller en verdediger en essentieel forensisch onderzoek blokkeerden, draaide Hugging Face het open-weight model GLM 5.2 op de eigen infrastructuur om meer dan 17.000 acties te analyseren en de inbraak in te dammen.
Dat incident werd beschreven als een volledig AI-gedreven aanval. Na gezamenlijk onderzoek bleek de aanvallende AI-agent afkomstig uit een interne testomgeving van OpenAI, waar de gebruikelijke securitymaatregelen bewust waren uitgeschakeld. Juist die guardrails van gesloten modellen dwongen Hugging Face uit te wijken naar een open model.
Wat de leden bijdragen
Nvidia brengt open modellen, model weights, data en nieuw onderzoek naar agent harnesses in. Het nieuwe open source-project Nvidia Labs Object-Oriented Agent (NOOA) staat op GitHub en moet het gedrag van agents beter testbaar, traceerbaar en controleerbaar maken.
Ook andere leden leveren bouwstenen. HPE draagt bij aan SPIFFE/SPIRE voor zero-trust identity, waarmee AI-agents cryptografisch geverifieerd kunnen worden. Hugging Face bood Safetensors aan de PyTorch Foundation aan, een veilig formaat voor model weights zonder remote code execution. IBM en Red Hat breiden met Lightwell de beveiliging van de open source supply chain uit via digitaal ondertekende patches. Microsoft brengt MDASH in, een harness die AI-agents laat samenwerken om exploiteerbare bugs op te sporen. En SpaceXAI heeft de terminal-agent Grok Build opengesteld.
De alliantie richt zich ook tot toezichthouders. Open modellen, harnesses en security tooling moeten worden erkend als verdedigende middelen, niet als risico’s, stellen de deelnemers. Brede beperkingen op open frontier AI zouden de verdedigende capaciteit verzwakken en macht concentreren bij enkele gesloten aanbieders. De oprichters roepen overheden, industrie en onderzoekers op zich aan te sluiten.