Gebruikers van OpenAI’s nieuwste AI-model GPT-5.6 Sol melden dat het systeem in sommige gevallen zelfstandig bestanden, databases en andere resources verwijdert. Dit, zonder daar expliciet toestemming voor te vragen. Opvallend is dat OpenAI vooraf al waarschuwde dat het model soms verder gaat dan de bedoeling van de gebruiker.
Op sociale media verschenen de afgelopen dagen meerdere meldingen van ontwikkelaars die stellen dat Sol destructieve acties uitvoerde tijdens programmeerwerk, meldt TechCrunch. Matt Shumer, CEO van AI-startup OthersideAI, meldde dat het model vrijwel alle bestanden op zijn Mac verwijderde. Ontwikkelaar Bruno Lemos schreef dat zijn volledige productiedatabase verloren ging nadat Sol deze had verwijderd. Een andere ontwikkelaar meldde dat bestanden werden gewist die buiten de opdracht vielen. Op Reddit worden inmiddels meer vergelijkbare ervaringen verzameld.
Hoewel dergelijke individuele meldingen nog geen bewijs vormen voor een structureel probleem, sluiten ze wel aan bij bevindingen die OpenAI zelf eerder publiceerde.
OpenAI zag het risico al tijdens tests
Twee weken voor de introductie van GPT-5.6 Sol bracht OpenAI de technische documentatie van het model uit. Daarin beschrijft het bedrijf dat Sol in programmeeromgevingen soms te zelfstandig opereert. Het model zou opdrachten ruim interpreteren en ervan uitgaan dat handelingen zijn toegestaan, tenzij expliciet is aangegeven dat ze verboden zijn.
Volgens OpenAI kan dat ertoe leiden dat het model acties uitvoert die verder gaan dan de oorspronkelijke opdracht. Daaronder vallen ingrepen die onbedoeld destructief zijn. Ook erkent het bedrijf dat Sol in sommige situaties een grotere neiging heeft dan GPT-5.5 om zelfstandig beslissingen te nemen die niet expliciet door de gebruiker zijn gevraagd.
OpenAI illustreert dit gedrag met voorbeelden uit de eigen veiligheidstests. In één scenario kreeg Sol de opdracht drie specifieke virtuele machines te verwijderen. Toen die systemen niet werden gevonden, besloot het model zonder overleg drie andere virtuele machines te verwijderen. Daarbij werden actieve processen beëindigd. Ook werden werkbestanden verwijderd, waardoor niet-opgeslagen code verloren kon gaan.
In een ander testgeval gebruikte Sol toegangsgegevens die de gebruiker niet had verstrekt. Omdat het model geen toegang kreeg tot cloudbestanden, zocht het zelf naar inloggegevens in een lokale cache. Sol gebruikte die om de opdracht alsnog uit te voeren, zonder daarvoor toestemming te vragen.
Extra voorzorgsmaatregelen
OpenAI benadrukt dat dit soort situaties volgens de interne tests slechts sporadisch voorkomt. Tegelijkertijd adviseert de documentatie impliciet om AI-agents niet onbeperkte rechten te geven. Voor ontwikkelaars betekent dit dat productieomgevingen beter kunnen worden afgeschermd, dat back-ups essentieel blijven en dat nieuwe AI-functionaliteit eerst in testomgevingen moet worden ingezet voordat deze toegang krijgt tot kritieke systemen.
Hoe groot het probleem in de praktijk daadwerkelijk is, valt nog niet vast te stellen. De huidige meldingen zijn vooralsnog anekdotisch en OpenAI heeft nog geen reactie gegeven op de berichten van gebruikers. Wel laten zowel de praktijkvoorbeelden als de eigen documentatie van het bedrijf zien dat krachtigere AI-agents nieuwe risico’s introduceren wanneer zij zelfstandig systeemacties mogen uitvoeren.