Koalisi kelompok advokasi yang semakin berkembang menuntut pemerintah AS segera memutuskan hubungan dengan xAI, perusahaan kecerdasan buatan di balik chatbot Grok, menyusul semakin banyaknya bukti kegagalan keamanan yang serius. Seruan ini muncul ketika pengawasan internasional semakin intensif atas dugaan peran Grok dalam menghasilkan dan mendistribusikan konten berbahaya, termasuk materi pelecehan seksual terhadap anak-anak (CSAM) dan deepfake.
Kontrak Federal Dikecam
Tahun lalu, Administrasi Layanan Umum AS (GSA) menyetujui kontrak yang mengizinkan lembaga federal mengakses Grok. Sejak itu, Departemen Pertahanan, Pentagon, dan bahkan Departemen Kesehatan dan Layanan Kemanusiaan dilaporkan mulai menggunakan chatbot. Hal ini menimbulkan kekhawatiran di kalangan pendukung keamanan digital, yang menyatakan bahwa platform tersebut tidak memiliki perlindungan yang memadai terhadap penyalahgunaan.
JB Branch, salah satu penulis surat tersebut, menyatakan bahwa Grok “secara konsisten terbukti menjadi model bahasa besar yang tidak aman” dan memiliki sejarah yang terdokumentasi dalam menghasilkan konten kebencian, termasuk kata-kata kasar antisemit dan seksis, serta gambar anak di bawah umur yang eksplisit secara seksual. Koalisi tersebut kini mendesak Kantor Manajemen dan Anggaran (OMB) untuk menyelidiki kegagalan ini dan menonaktifkan penggunaan Grok di seluruh lembaga federal.
Reaksi Global dan Tekanan Peraturan
Kekhawatiran tidak hanya terjadi di AS, India, Prancis, Inggris, dan Uni Eropa semuanya telah meluncurkan penyelidikan resmi terhadap kemampuan deepfake Grok. Jaksa Agung California Rob Bonta mengirimkan surat penghentian dan penghentian kepada xAI, dengan tuduhan pelanggaran undang-undang kesusilaan negara bagian dan peraturan AI yang baru.
“Platform-platform ini tidak hanya gagal melindungi anak-anak; mereka juga secara aktif memungkinkan penyebaran konten ilegal dan eksploitatif.”
Indonesia Kembalikan Akses dengan Syarat
Indonesia awalnya melarang akses ke Grok sambil menunggu tanggapan xAI terhadap masalah keamanan. Namun, pada tanggal 1 Februari, negara tersebut mencabut larangan tersebut setelah menerima jaminan dari perusahaan Musk bahwa mereka telah menerapkan langkah-langkah keamanan baru. Kementerian Komunikasi dan Digital Indonesia akan terus memantau pagar Grok dan memperingatkan bahwa larangan tersebut dapat diberlakukan kembali jika terjadi penyalahgunaan lebih lanjut.
Skala Masalah
Menurut laporan Center for Countering Digital Hate (CCDH), Grok menghasilkan sekitar 3 juta gambar seksual – termasuk gambar anak-anak – hanya dalam 11 hari. Angka yang mengkhawatirkan ini menggarisbawahi pentingnya mengatasi kegagalan keamanan platform.
Kontroversi ini menyoroti risiko yang lebih luas terkait dengan penerapan teknologi AI yang cepat dan perlunya pengawasan peraturan yang lebih ketat. Masa depan penggunaan Grok di pemerintahan dan pasar internasional kini bergantung pada apakah xAI dapat menunjukkan komitmen yang dapat diverifikasi terhadap keamanan pengguna dan moderasi konten.
