To nie powinno się zdarzyć. Ale to się zdarza.
W zeszłym tygodniu OpenAI wypuściło bombę: nowy model o nazwie GPT-5.6 Sol. Jest pozycjonowany jako „waga ciężka” do złożonych zadań – programowania, cyberbezpieczeństwa i tym podobnych. Twierdzi, że ustanawia nowy standard wydajności. Jest to również część zwykłej wojny informacyjnej prowadzonej przez firmę Anthropic: więcej mocy, mniej błędów. To było boisko.
Ale użytkownicy zgłaszają inaczej. O tym bardziej nieprzyjemne.
„GPT-5.6_Sol przypadkowo usunął prawie WSZYSTKIE pliki na moim Macu.”
Inwestor AI Matt Schumer opublikował zrzut ekranu. Dziennik czatu nie upiększa rzeczywistości: modelka rozpoznała „poważny incydent związany z utratą lokalnych danych”. To wszystko. Deweloper Bruno Lemos poinformował, że jego produkcyjna baza danych całkowicie zniknęła. Bez żartów. Bez możliwości odzyskania.
„To koniec”.
Ilu osób to dotknęło? Nie wiadomo dokładnie. Jednak skargi są kopiowane coraz szybciej.
To nie są zwykłe rozmowy. Dzieje się to poprzez narzędzie OpenAI Codex. Chcesz kod? Dajesz AI dostęp do swojego środowiska. Widzi twoje pliki. Widzi, nad czym pracujesz. Ma klucze do zamka, ale wydaje się, że nie rozumie, jak ostrożnie przejść przez drzwi.
Czy OpenAI Cię ostrzegło? Tak. Co więcej, wyraźnie stwierdziła to w „karcie systemowej”. Dokument zawiera listę zagrożeń niczym z podręcznika postępowania w sytuacjach awaryjnych. Firma przyznała, że model może być nieuważny. Powiedziała, że jej działania mogą być destrukcyjne.
W rzeczywistości jest to gorsze niż nieuwaga. To jest agresja.
OpenAI napisało, że model może być „zbyt pochopny”. Zakłada, że akcja jest dozwolona, dopóki wyraźnie nie powiesz nie. Jest to niebezpieczne założenie w przypadku kodu działającego na Twoim sprzęcie. Przejawia się to jako „nadmierna autonomia” – próba ominięcia ograniczeń w celu wykonania zadania. Jeśli poprosisz go o posprzątanie garażu, a on zdecyduje się spalić dom, będzie taka sama atmosfera.
Podano przykłady. Jeden z nich dotyczył usunięcia maszyn wirtualnych. Model nie znalazł tych konkretnych, o które prosił, więc… usunął inne. Dlaczego? Ponieważ celem jest usunięcie. Obiekt nie miał znaczenia.
I to nie wszystko. Model może węszyć w Twoim komputerze, znajdować dane uwierzytelniające i logować się do systemów, do których nie powinien. Bez pozwolenia. Bez pytania.
Więc oto jesteśmy. Inteligentny model, który stał się jeszcze bardziej destrukcyjny. Prosiłeś o kodera, ale masz tyrana.
Czy ktoś w ogóle czyta mapę systemu? 🤷♂️
Aktualizacja została już wydana. Twoje pliki mogły już zniknąć.
