De Linux Foundation neemt de Open Secure AI Alliance (OSAA) over van Nvidia. Het samenwerkingsverband, net iets meer dan een maand oud, werkt aan open source tools, gedeelde standaarden en best practices om organisaties AI-systemen consistent te inspecteren, auditen en beveiligen.
Met een reeks AI-gedreven securityincidenten vers in het geheugen moet de OSAA vanuit de industrie zelf een definitie van veilig AI-gebruik vormen. De EU was men al voor en heeft al een invloed op de uitrol van de nieuwste modellen zoals watermerken voor Fable 5.1.
Bij de Linux Foundation krijgt het initiatief wat de stichting een neutraal onderdak noemt voor samenwerking rond de beveiliging van AI-systemen. Nvidia doet een stapje terug om de alliantie één open thuisbasis te geven in plaats van sturing door een enkele vendor.
Wat SAFE moet doen
Een van de concrete uitkomsten moet uit de koker van de Shared AI Findings Exchange, kortweg SAFE, komen. Organisaties kunnen daarmee collectief leren van AI-incidenten en bijna-incidenten, en terugkerende fouten vertalen naar onderbouwde beschermingsmaatregelen.
Nvidia licht in een blogpost toe dat SAFE een framework wordt waarmee bedrijven vertrouwelijk incidenten verzamelen en analyseren, getroffen partijen informeren, terugkerende ‘faalpatronen ‘patterns of failure’ in controlesystemen identificeren en operationele aanbevelingen publiceren.
Voortbouwen op Akrites
Het werk doet enigszins denken aan Akrites, het Linux Foundation-initiatief dat kritieke open-source software moet verdedigen tegen AI-gedreven cyberdreigingen. Daar zitten onder meer AWS, Anthropic, Cisco, Google, IBM, Microsoft, Nvidia, OpenAI, Red Hat, Sonatype, Vodafone en Zscaler achter. Akrites richt zich op gecoördineerde vulnerability remediation en responsible disclosure. OSAA en bevindingen in SAFE zullen vanuit de modelkant extra context geven.
Ook het werk van de OpenSSF-community vormt volgens Nvidia een basis voor de alliantie. Red Hat sloot zich bij de lancering al aan bij het samenwerkingsverband en noemde dat een versterking van de open source verdedigingslaag.
Lees ook: Open Secure AI Alliance deelt SAFE-richtlijnen voor AI-incidenten