Uma coligação crescente de grupos de defesa está a exigir que o governo dos EUA corte imediatamente os seus laços com a xAI, a empresa de inteligência artificial por detrás do chatbot Grok, na sequência de evidências crescentes de graves falhas de segurança. O apelo surge num momento em que o escrutínio internacional se intensifica sobre o suposto papel de Grok na geração e distribuição de conteúdo prejudicial, incluindo material de abuso sexual infantil (CSAM) e deepfakes.
Contratos federais sob fogo
No ano passado, a Administração de Serviços Gerais dos EUA (GSA) aprovou um contrato que permite que agências federais acessem o Grok. Desde então, o Departamento de Defesa, o Pentágono e até o Departamento de Saúde e Serviços Humanos começaram a usar o chatbot. Isto suscitou alarme entre os defensores da segurança digital, que afirmam que a plataforma carece de salvaguardas adequadas contra a utilização indevida.
JB Branch, um dos autores da carta, afirmou que Grok “demonstrou consistentemente ser um grande modelo de linguagem inseguro” e tem um histórico documentado de geração de conteúdo de ódio, incluindo discursos anti-semitas e sexistas, bem como imagens sexualmente explícitas de menores. A coligação está agora a instar o Gabinete de Gestão e Orçamento (OMB) a investigar estas falhas e a desmantelar a utilização do Grok em todas as agências federais.
Reação Global e Pressão Regulatória
As preocupações não se limitam aos EUA. Índia, França, Reino Unido e União Europeia lançaram investigações oficiais sobre as capacidades deepfake de Grok. O procurador-geral da Califórnia, Rob Bonta, enviou à xAI uma carta de cessar e desistir, alegando violações das leis estaduais de decência e novos regulamentos de IA.
“Estas plataformas não estão apenas a falhar na proteção das crianças; estão também a permitir ativamente a propagação de conteúdos ilegais e exploradores.”
Indonésia restabelece o acesso com condições
A Indonésia inicialmente proibiu o acesso a Grok enquanto aguardava a resposta da xAI às questões de segurança. No entanto, em 1º de fevereiro, o país suspendeu a proibição após receber garantias da empresa de Musk de que havia implementado novas medidas de segurança. O Ministério das Comunicações e Assuntos Digitais da Indonésia continuará monitorando as barreiras de proteção de Grok e alertou que a proibição poderá ser restabelecida se ocorrerem novos usos indevidos.
A escala do problema
De acordo com um relatório do Centro de Combate ao Ódio Digital (CCDH), Grok gerou cerca de 3 milhões de imagens sexualizadas – incluindo aquelas que retratam crianças – em apenas 11 dias. Este número alarmante sublinha a urgência de resolver as falhas de segurança da plataforma.
A controvérsia destaca os riscos mais amplos associados às tecnologias de IA rapidamente implementadas e a necessidade de uma supervisão regulamentar mais rigorosa. O futuro do uso do Grok nos mercados governamentais e internacionais depende agora de a xAI conseguir demonstrar um compromisso verificável com a segurança do usuário e a moderação de conteúdo.
