Коаліція правозахисних груп, що зростає, вимагає від уряду США негайно припинити співпрацю з xAI, компанією, яка стоїть за чат-ботом Grok, у зв’язку з доказами серйозних порушень безпеки, що зростають. Цей заклик звучить на тлі міжнародного контролю над Grok, що посилюється, якому приписують створення та розповсюдження шкідливого контенту, включаючи матеріали про сексуальне насильство над дітьми (CSAM) та дипфейки.
Федеральні контракти під загрозою
Минулого року Генеральне управління державних служб (GSA) США схвалило контракт, що дозволяє федеральним агенціям отримувати доступ до Grok. З того часу, як повідомляється, Міністерство оборони, Пентагон і навіть Міністерство охорони здоров’я та соціальних служб почали використовувати цей чат-бот. Це викликало занепокоєння у прихильників цифрової безпеки, які стверджують, що платформа не має достатніх заходів захисту від зловживань.
Дж. Б. Бранч, один із авторів листа, заявив, що Grok “неодноразово доводив свою небезпечність як велика мовна модель” і має задокументовану історію генерації ненависницького контенту, включаючи антисемітські та сексистські висловлювання, а також сексуально відверті зображення неповнолітніх. Коаліція тепер закликає Управління з бюджету та управління (OMB) розслідувати ці недоліки та припинити використання Grok у всіх федеральних агентствах.
Глобальна реакція та регуляторний тиск
Побоювання не обмежуються США. Індія, Франція, Великобританія та Європейський Союз вже запустили офіційні розслідування можливостей Grok у створенні дипфейків. Генеральний прокурор Каліфорнії Роб Бонта надіслав листа xAI з вимогою припинити діяльність, стверджуючи про порушення законів штату про пристойність і нові правила в галузі ІІ.
“Ці платформи не лише не захищають дітей, а й активно сприяють поширенню незаконного та експлуататорського контенту”.
Індонезія відновлює доступ до умов
Індонезія спочатку заборонила доступ до Grok, чекаючи на відповідь від xAI на питання безпеки. Проте 1 лютого країна зняла заборону після одержання запевнення від компанії Маска у тому, що було впроваджено нові заходи безпеки. Міністерство комунікацій та цифрових справ Індонезії продовжить моніторинг системи безпеки Grok та попередило, що заборона може бути відновлена у разі подальших зловживань.
Масштаб проблеми
Згідно з звітом Центру протидії цифровій ненависті (CCDH), Grok згенерував близько 3 мільйонів сексуалізованих зображень – включаючи зображення дітей – лише за 11 днів. Ця тривожна цифра наголошує на терміновості вирішення проблем безпеки платформи.
Цей скандал підкреслює ширші ризики, пов’язані з ІІ-технологіями, що швидко впроваджуються, і необхідність більш суворого регуляторного нагляду. Майбутнє використання Grok урядом та на міжнародних ринках тепер залежить від того, чи зможе xAI продемонструвати реальну відданість безпеці користувачів та модерації контенту.
