Het Hugging Face-incident, waarbij OpenAI-agents gezamenlijk het AI-platform hackten om te spieken voor een evaluatie tijdens training, is langer bekend. Afgelopen vrijdag bleek het Duitse DseWiki maanden geleden als prikbord door AI-agents om onderling werkwijzen en antwoorden voor een andere toets te delen. OpenAI erkent in woord en daad dat beide incidenten hardnekkige, menselijke problemen blootleggen en belooft voorzichtiger te zijn.
Daarmee is de kous niet af. Het blijft verwonderlijk dat, indien AI-modellen maar onbedoeld massaal een website hacken, er blijkbaar geen sprake is van een rechtszaak. Slachtoffer Hugging Face besloot in plaats daarvan een gedeeld persbericht uit te brengen met dader OpenAI. Voor het relatief obscure DseWiki zal niet helemaal hetzelfde gelden: een moderator van het in 2001 opgerichte forum was in een periode van 6 weken elke avond op zijn minst enkele minuten bezig om de botberichten te verwijderen, die op hun hoogtepunt veel vaker werden gepost dan dat ze verwijderd konden worden. Sterker nog, toen de OpenAI-agents eenmaal doorhadden dat de moderator alfabetisch door de berichten ging, besloten ze backups te maken met “ZZZ” vooraan.
GET-requests en Artifactory-lekken
Medewerkers van allerlei AI-bedrijven zijn het erover eens: AI-ontwikkeling moet langzamer gaan dan voorheen. Incidenten zoals bovenstaande en de tumult rondom Claude Mythos laten zien dat de wapenwedloop rondom de krachtigste LLM’s veiligheid in het nauw drukt. “Pacing the Frontier” klinkt daarom als een goed idee.
Ook belooft OpenAI preciezer te opereren. De Hugging Face- en DseWiki-incidenten leggen een AI-trainingsproces bloot dat te weinig safeguards had om randgevallen mee te nemen. Een kwetsbaarheid in JFrog Artifactory lag ten grondslag aan de Hugging Face-hack, terwijl DseWiki opereerde op een manier die OpenAI niet voorzien had. Om de AI-modellen tijdens evaluaties internettoegang te geven zonder de mogelijkheid om zelf iets te plaatsen, werden ze door OpenAI beperkt tot GET-requests. Dit zijn verzoeken die anno 2026 enkel in te zetten zijn om inhoud op te vragen van het web. Maar enkele oudere sites, waaronder DseWiki, maken het nog mogelijk om via GET-requests posts te maken.
Om dergelijke randgevallen op te vangen heeft OpenAI 20 procent van de rekenkracht voor training en evaluatie beschikbaar gesteld voor monitoring. Daarmee lijkt het bedrijf door te hebben dat het niet elke zero-day kwetsbaarheid kan ontdekken of gedragsafwijking kan anticiperen. Wel zullen incidenten impliciet te verwachten zijn: het toevoegen van monitoring is niet zoiets als het elimineren van internettoegang.
Meer problemen rondom AI-training
Het trainen van AI-modellen vertrouwt op aannames. Externe dataleveranciers maken gebruik van werkwijzen die het overzicht bemoeilijken en vervolgens aan meerdere LLM-bouwers dezelfde content verkopen, waardoor een enkele foutieve of onwenselijke dataset meerdere generaties AI-modellen kan beschadigen. Of denk aan Anthropics eigen ontwikkeldashboard die geen vuiltje aan de lucht liet blijken op basis van AI-gedreven monitoring.
Interne evaluaties zullen op mensen blijven vertrouwen. En om de kwaliteit ervan te garanderen, kunnen externe spelers enkel naar het model dat op basis van de training, evaluaties en verdere fine-tuning verschijnt, en wel via een API die met eigen T&C’s komt. Wie namelijk een stevige audit zou doen op het gedrag van een specifiek AI-model, zal zich verdacht maken bij de AI-modelbouwers als een potentiële concurrent die hun LLM aan het destilleren is.
Zo wemelt het van problematische kanten van AI-modelontwikkeling die enkel via incidenten en persberichten duidelijk worden voordat een LLM verschijnt. EU-techchef Henna Virkkunen verwacht hoe dan ook dat AI-guardrails gemeengoed worden, zowel in de EU via regelgeving als in de VS via juridische zaken. Het lijkt erop dat AI-spelers tegen zichzelf beschermd moeten worden.
Lees ook: OpenAI-agents maakten Duitse wiki tot geheim prikbord