Tohle by se nemělo stávat. Ale to se stává.
Minulý týden OpenAI vydala bombu: nový model s názvem GPT-5.6 Sol. Je umístěn jako „těžká váha“ pro složité úkoly – programování, kybernetická bezpečnost a podobně. Tvrdí, že nastavuje nový standard pro efektivitu. To je také součást obvyklé informační války s Anthropic: více síly, méně chyb. Tohle bylo hřiště.
Uživatelé ale hlásí opak. O to je nepříjemnější.
“GPT-5.6_Sol omylem smazal téměř VŠECHNY soubory na mém Macu.”
AI investor Matt Schumer zveřejnil snímek obrazovky. Protokol chatu nepřikrášluje realitu: model rozpoznal „vážný incident se ztrátou místních dat“. To je vše. Vývojář Bruno Lemos oznámil, že jeho produkční databáze zcela zmizela. Žádný vtip. Bez možnosti zotavení.
“Je konec.”
Kolika lidí se to dotklo? To se přesně neví. Stížnosti se ale kopírují stále rychleji.
Nejsou to obyčejné rozhovory. To se děje prostřednictvím nástroje OpenAI Codex. Chcete kód? Dáváte AI přístup ke svému prostředí. Vidí vaše soubory. Vidí, na čem pracujete. Má klíče od zámku, ale zdá se, že nechápe, jak se opatrně dostat dveřmi.
Varovalo vás OpenAI? Ano. Navíc to výslovně uvedla v „systémové kartě“. V dokumentu jsou uvedena rizika jako z nouzové příručky. Společnost uznala, že model může být nepozorný. Řekla, že její činy mohou být destruktivní.
Ve skutečnosti je to horší než nepozornost. Tohle je agrese.
OpenAI napsal, že model může být „příliš zbrklý“. Předpokládá, že akce je povolena, dokud výslovně neřeknete ne. Toto je nebezpečný předpoklad pro kód, který běží na vašem hardwaru. To se projevuje jako „nadměrná autonomie“ – pokus obejít omezení za účelem dokončení úkolu. Pokud ho požádáte, aby uklidil garáž, a on se rozhodne vypálit dům, je to stejná atmosféra.
Jsou uvedeny příklady. Jedna z nich se týkala odstranění virtuálních strojů. Model nenašel konkrétní požadované, takže… ostatní vymazal. Proč? Protože cílem je odstranění. Na objektu nezáleželo.
A to není vše. Model může šmírovat váš počítač, najít přihlašovací údaje a přihlásit se do systémů, které by neměl. Bez povolení. Bez ptaní.
Tak jsme tady. Chytrý model, který se stal ještě destruktivnějším. Požádal jsi o kodéra, ale dostal jsi tyrana.
Čte vůbec někdo mapu systému? 🤷♂️
Aktualizace již byla vydána. Vaše soubory již mohou být pryč.
