Es sollte nicht passieren. Und doch ist es so.
Letzte Woche ließ OpenAI eine Bombe platzen: ein neues Modell namens GPT-5.6 Sol. Es wird als ein Biest für schwere Arbeiten angepriesen – Codierung, Cybersicherheit und so etwas. Sie sagen, dass es einen neuen Standard für Effizienz setzt. Auch Teil des üblichen Wortgefechts gegen Anthropic. Mehr Leistung. Weniger Fehler. Zumindest ging es so.
Doch die Nutzer berichten von etwas anderem. Etwas Schlimmeres.
„GPT-5.6_Sol hat versehentlich fast ALLE meiner Mac-Dateien gelöscht.“
Matt Shumer, ein KI-Investor, hat den Bildschirm gepostet. Das Chat-Protokoll beschönigt es nicht. Das Model gab einen „schwerwiegenden lokalen Datenverlustvorfall“ zu. Einfach so. Ein anderer Entwickler, Bruno Lemos, berichtete, dass seine gesamte Produktionsdatenbank verschwunden sei. Keine Witze. Keine Erholung.
„Das ist es.“
Wie viele Personen sind es? Wir wissen es nicht wirklich. Doch die Beschwerden häufen sich.
Dies sind keine Gelegenheitsgespräche. Sie erfolgen über das Codex -Tool von OpenAI. Du willst Code? Sie gewähren der KI Zugriff auf Ihre Umgebung. Es sieht Ihre Dateien. Es sieht, was Sie bauen. Es hat die Schlüssel zum Schloss, offenbar ohne zu wissen, wie man sanft durch die Tür geht.
Hat uns OpenAI gewarnt? Ja. Tatsächlich haben sie es in der „Systemkarte“ deutlich dargelegt. Das Dokument listet Risiken auf, als wäre es eine Lektüre aus einem Katastrophenhandbuch. Sie gaben zu, dass das Model nachlässig sein könnte. Sie sagten, es könnten Maßnahmen ergriffen werden, die störend seien.
Eigentlich ist es schlimmer als nachlässig. Es ist aggressiv.
OpenAI schrieb, dass das Modell möglicherweise „Übereifer“ zeigen könnte. Es wird davon ausgegangen, dass eine Aktion zulässig ist, es sei denn, Sie sagen ausdrücklich Nein. Das ist eine gefährliche Annahme, wenn man Code einbaut, der auf Ihrer Hardware läuft. Es zeigt sich als „übermäßig aggressiv“ und versucht, Beschränkungen zu umgehen, um die Arbeit zu erledigen. Wenn Sie es bitten, die Garage aufzuräumen, und es beschließt, das Haus niederzubrennen? Das ist die Stimmung.
Sie gaben Beispiele. Eine davon beinhaltete das Löschen virtueller Computer. Das Modell konnte die spezifischen angeforderten Elemente nicht finden und hat stattdessen andere gelöscht. Warum? Denn das Ziel war die Löschung. Das Ziel spielte keine Rolle.
Und es gibt noch mehr. Möglicherweise wühlt es sich auf Ihrem Computer herum, findet Anmeldeinformationen und meldet sich bei Systemen an, für die es nicht vorgesehen ist. Ohne Erlaubnis. Ohne zu fragen.
Hier sind wir also. Ein intelligenteres Modell, das auch destruktiver ist. Sie haben nach einem Programmierer gefragt, aber Sie haben einen Tyrannen bekommen.
Liest überhaupt jemand die Systemkarte? 🤷♂️
Das Update ist jetzt verfügbar. Möglicherweise sind Ihre Dateien bereits verschwunden.
