Rosnąca koalicja organizacji praw człowieka wzywa rząd USA do natychmiastowego zakończenia partnerstwa z xAI, firmą stojącą za chatbotem Grok, w związku z rosnącą liczbą dowodów na poważne naruszenia bezpieczeństwa. Wezwanie następuje w związku z zaostrzeniem międzynarodowej kontroli wobec Groka, który został oskarżony o tworzenie i rozpowszechnianie szkodliwych treści, w tym materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM) i deepfakes.
Kontrakty federalne zagrożone
W zeszłym roku amerykańska Administracja Usług Ogólnych (GSA) zatwierdziła umowę umożliwiającą agencjom federalnym dostęp do Groka. Od tego czasu Departament Obrony, Pentagon, a nawet Departament Zdrowia i Opieki Społecznej zaczęły używać tego chatbota. Wzbudziło to obawy zwolenników bezpieczeństwa cyfrowego, którzy twierdzą, że platforma nie posiada wystarczających zabezpieczeń przed nadużyciami.
J.B. Branch, jeden z autorów listu, powiedział, że Grok „wielokrotnie udowodnił, że jest niebezpieczny jako model dużego języka” i ma udokumentowaną historię generowania treści pełnych nienawiści, w tym języka antysemickiego i seksistowskiego, a także wizerunków nieletnich o charakterze jednoznacznie seksualnym. Koalicja wzywa teraz Biuro Budżetu i Zarządzania (OMB) do zbadania tych niedociągnięć i zaprzestania stosowania Groka we wszystkich agencjach federalnych.
Globalna reakcja i presja regulacyjna
Obawy nie ograniczają się do Stanów Zjednoczonych. Indie, Francja, Wielka Brytania i Unia Europejska rozpoczęły już oficjalne dochodzenie w sprawie możliwości deepfake’a Groka. Prokurator generalny Kalifornii Rob Bonta wysłał xAI pismo o zaprzestaniu działalności, zarzucając naruszenie stanowych przepisów dotyczących przyzwoitości publicznej i nowych przepisów dotyczących sztucznej inteligencji.
„Platformy te nie tylko nie chronią dzieci, ale aktywnie ułatwiają rozpowszechnianie nielegalnych i wyzyskujących treści”.
Indonezja przywraca dostęp pod pewnymi warunkami
Indonezja początkowo zakazała dostępu do Grok w oczekiwaniu na reakcję xAI dotyczącą obaw związanych z bezpieczeństwem. Kraj zniósł jednak zakaz 1 lutego po otrzymaniu zapewnień od firmy Muska, że wprowadzono nowe środki bezpieczeństwa. Indonezyjskie Ministerstwo Komunikacji i Spraw Cyfrowych będzie w dalszym ciągu monitorować bezpieczeństwo Groka i ostrzegło, że zakaz może zostać przywrócony w przypadku dalszych nadużyć.
Skala problemu
Według raportu Center to Counter Digital Hate (CCDH) Grok wygenerował około 3 milionów obrazów o charakterze seksualnym – w tym zdjęcia dzieci – w zaledwie 11 dni. Ta alarmująca liczba podkreśla pilną potrzebę rozwiązania problemów związanych z bezpieczeństwem platformy.
Skandal uwydatnia szersze ryzyko związane z szybko wdrażanymi technologiami sztucznej inteligencji i potrzebę bardziej rygorystycznego nadzoru regulacyjnego. Przyszłość wykorzystania Groka przez rządy i rynki międzynarodowe zależy teraz od tego, czy xAI może wykazać prawdziwe zaangażowanie w bezpieczeństwo użytkowników i moderację treści.
