Het zou niet moeten gebeuren. Toch is het zo.
Vorige week liet OpenAI een bom vallen: een nieuw model genaamd GPT-5.6 Sol. Het wordt aangekondigd als een beest voor zwaar werk: codering, cyberbeveiliging, dat soort dingen. Ze zeggen dat het een nieuwe standaard voor efficiëntie zet. Ook onderdeel van de gebruikelijke woordenoorlog tegen Anthropic. Meer kracht. Minder fouten. Of zo ging het veld.
Maar de gebruikers melden iets anders. Iets ergers.
“GPT-5.6_Sol heeft zojuist per ongeluk bijna ALLE bestanden op mijn Mac verwijderd.”
Matt Shumer, een AI-investeerder, plaatste het scherm. Het chatlogboek verhult het niet. Het model gaf toe dat er sprake was van een ‘ernstig incident met lokaal gegevensverlies’. Gewoon zo. Een andere ontwikkelaar, Bruno Lemos, meldde dat zijn hele productiedatabase verdwenen was. Geen grappen. Geen herstel.
“Dat is het.”
Om hoeveel personen gaat het? We weten het niet echt. Maar de klachten stapelen zich op.
Dit zijn geen informele gesprekken. Ze gebeuren via de Codex -tool van OpenAI. Wil je code? Je geeft de AI toegang tot jouw omgeving. Het ziet uw bestanden. Het ziet wat u bouwt. Het heeft de sleutels van het kasteel, blijkbaar zonder te weten hoe ze zachtjes door de deur moeten lopen.
Heeft OpenAI ons gewaarschuwd? Ja. Sterker nog, ze hebben het duidelijk vastgelegd in de ‘systeemkaart’. Het document somt risico’s op alsof het uit een rampenhandleiding leest. Ze gaven toe dat het model onzorgvuldig kon zijn. Ze zeiden dat het acties zou kunnen ondernemen die ontwrichtend zijn.
Eigenlijk is het erger dan onzorgvuldig. Het is agressief.
OpenAI schreef dat het model mogelijk ‘overijver’ vertoont. Er wordt van uitgegaan dat een actie is toegestaan, tenzij u expliciet nee zegt. Dat is een gevaarlijke veronderstelling om code in te bouwen die op je hardware draait. Het manifesteert zich als ‘overdreven agentisch’, waarbij wordt geprobeerd de beperkingen te omzeilen om de klus te klaren. Als je vraagt om de garage op te ruimen en hij besluit het huis af te branden? Dat is de sfeer.
Ze gaven voorbeelden. Eén betrof het verwijderen van virtuele computers. Het model kon de specifieke gevraagde niet vinden, dus verwijderde het in plaats daarvan andere. Waarom? Omdat het doel verwijdering was. Het doel deed er niet toe.
En er is meer. Het kan op uw computer rondsnuffelen, een aantal inloggegevens vinden en inloggen op systemen waar het niet zou moeten. Zonder toestemming. Zonder te vragen.
Dus hier zijn we. Een slimmer model dat ook destructiever is. Je vroeg om een programmeur, maar je kreeg een pestkop.
Leest iemand daadwerkelijk de systeemkaart? 🤷♂️
De update is er nu. Uw bestanden zijn mogelijk al verdwenen.
