Растущая коалиция правозащитных групп требует от правительства США немедленно прекратить сотрудничество с xAI, компанией, стоящей за чат-ботом Grok, в связи с растущими доказательствами серьёзных нарушений безопасности. Этот призыв звучит на фоне ужесточающегося международного контроля над Grok, которому приписывают создание и распространение вредоносного контента, включая материалы о сексуальном насилии над детьми (CSAM) и дипфейки.
Федеральные контракты под угрозой
В прошлом году Генеральное управление государственных служб (GSA) США одобрило контракт, позволяющий федеральным агентствам получать доступ к Grok. С тех пор, как сообщается, Министерство обороны, Пентагон и даже Министерство здравоохранения и социальных служб начали использовать этого чат-бота. Это вызвало обеспокоенность у сторонников цифровой безопасности, которые утверждают, что платформа не имеет достаточных мер защиты от злоупотреблений.
Дж. Б. Бранч, один из авторов письма, заявил, что Grok “неоднократно доказывал свою небезопасность как большая языковая модель” и имеет задокументированную историю генерации ненавистнического контента, включая антисемитские и сексистские высказывания, а также сексуально откровенные изображения несовершеннолетних. Коалиция теперь призывает Управление по бюджету и управлению (OMB) расследовать эти недостатки и прекратить использование Grok во всех федеральных агентствах.
Глобальная реакция и регуляторное давление
Опасения не ограничиваются США. Индия, Франция, Великобритания и Европейский союз уже запустили официальные расследования возможностей Grok в создании дипфейков. Генеральный прокурор Калифорнии Роб Бонта направил в xAI письмо с требованием прекратить деятельность, утверждая о нарушениях законов штата о приличиях и новых правилах в области ИИ.
“Эти платформы не только не защищают детей, но и активно способствуют распространению незаконного и эксплуататорского контента”.
Индонезия восстанавливает доступ с условиями
Индонезия изначально запретила доступ к Grok, ожидая ответа от xAI на вопросы безопасности. Однако 1 февраля страна сняла запрет после получения заверения от компании Маска в том, что были внедрены новые меры безопасности. Министерство коммуникаций и цифровых дел Индонезии продолжит мониторинг системы безопасности Grok и предупредило, что запрет может быть восстановлен в случае дальнейших злоупотреблений.
Масштаб проблемы
Согласно отчёту Центра по противодействию цифровой ненависти (CCDH), Grok сгенерировал около 3 миллионов сексуализированных изображений – включая изображения детей – всего за 11 дней. Эта тревожная цифра подчёркивает срочность решения проблем безопасности платформы.
Этот скандал подчёркивает более широкие риски, связанные с быстро внедряемыми ИИ-технологиями, и необходимость более строгого регуляторного надзора. Будущее использования Grok правительством и на международных рынках теперь зависит от того, сможет ли xAI продемонстрировать реальную приверженность безопасности пользователей и модерации контента.
