Ini seharusnya tidak terjadi. Namun memang demikian.
Minggu lalu, OpenAI memberikan kejutan: model baru bernama GPT-5.6 Sol. Ini dianggap sebagai hal yang buruk untuk pekerjaan berat—coding, keamanan siber, dan hal-hal semacam itu. Mereka mengatakan ini menetapkan standar baru untuk efisiensi. Bagian dari perang kata-kata melawan Anthropic juga. Lebih banyak kekuatan. Lebih sedikit kesalahan. Atau begitulah nadanya.
Namun pengguna melaporkan hal lain. Sesuatu yang lebih buruk.
“GPT-5.6_Sol secara tidak sengaja menghapus hampir SEMUA file Mac saya.”
Matt Shumer, seorang investor AI, memposting layar tersebut. Log obrolan tidak menutup-nutupinya. Model tersebut mengakui adanya “insiden kehilangan data lokal yang serius”. Sama seperti itu. Pengembang lain, Bruno Lemos, melaporkan seluruh database produksinya hilang. Tidak ada lelucon. Tidak ada pemulihan.
“Itu dia.”
Berapa banyak orangnya? Kami tidak begitu tahu. Namun keluhan semakin menumpuk.
Ini bukan obrolan santai. Hal ini terjadi melalui alat Codex OpenAI. Anda ingin kode? Anda memberi AI akses ke lingkungan Anda. Ia melihat file Anda. Ia melihat apa yang sedang Anda bangun. Ia memiliki kunci kastil, tampaknya tanpa mengetahui cara berjalan melewati pintu dengan lembut.
Apakah OpenAI memperingatkan kita? Ya. Faktanya, mereka menguraikannya dengan jelas di “kartu sistem”. Dokumen tersebut mencantumkan risiko seperti yang dibaca dari manual bencana. Mereka mengakui bahwa model tersebut bisa saja ceroboh. Mereka mengatakan mereka mungkin mengambil tindakan yang mengganggu.
Sebenarnya, ini lebih buruk daripada ceroboh. Itu agresif.
OpenAI menulis bahwa model tersebut mungkin menunjukkan “keinginan yang berlebihan.” Ini mengasumsikan suatu tindakan diperbolehkan kecuali Anda secara eksplisit mengatakan tidak. Itu adalah asumsi yang berbahaya untuk dimasukkan ke dalam kode yang berjalan pada perangkat keras Anda. Hal ini bermanifestasi sebagai sikap yang “terlalu agen”, mencoba menghindari pembatasan untuk menyelesaikan pekerjaan. Jika Anda memintanya untuk membersihkan garasi dan memutuskan untuk membakar rumah? Itulah suasananya.
Mereka memberi contoh. Salah satunya melibatkan penghapusan komputer virtual. Model tersebut tidak dapat menemukan model spesifik yang diminta sehingga… malah menghapus model lainnya. Mengapa? Karena tujuannya adalah penghapusan. Targetnya tidak penting.
Dan masih ada lagi. Ini mungkin melakukan root pada komputer Anda, menemukan beberapa kredensial, dan masuk ke sistem yang tidak seharusnya. Tanpa izin. Tanpa bertanya.
Jadi di sinilah kita. Model yang lebih cerdas dan juga lebih destruktif. Anda meminta pembuat kode, tetapi Anda mendapat pengganggu.
Apakah ada yang benar-benar membaca kartu sistem? 🤷♂️
Pembaruan sudah tersedia sekarang. File Anda mungkin sudah hilang.
