Une coalition croissante de groupes de défense exige que le gouvernement américain rompe immédiatement ses liens avec xAI, la société d’intelligence artificielle à l’origine du chatbot Grok, suite aux preuves croissantes de graves défaillances en matière de sécurité. Cet appel intervient alors que la surveillance internationale s’intensifie sur le rôle présumé de Grok dans la génération et la distribution de contenus préjudiciables, notamment de matériel pédopornographique (CSAM) et de deepfakes.
Les contrats fédéraux sous le feu des critiques
L’année dernière, la General Services Administration (GSA) des États-Unis a approuvé un contrat permettant aux agences fédérales d’accéder à Grok. Depuis lors, le ministère de la Défense, le Pentagone et même le ministère de la Santé et des Services sociaux auraient commencé à utiliser le chatbot. Cela a alarmé les défenseurs de la sécurité numérique, qui affirment que la plateforme ne dispose pas de garanties adéquates contre toute utilisation abusive.
JB Branch, l’un des auteurs de la lettre, a déclaré que Grok « s’est constamment révélé être un modèle de langage à grande échelle dangereux » et a un historique documenté de génération de contenus haineux, y compris des diatribes antisémites et sexistes, ainsi que des images sexuellement explicites de mineurs. La coalition exhorte désormais l’Office of Management and Budget (OMB) à enquêter sur ces échecs et à mettre fin à l’utilisation de Grok dans les agences fédérales.
Réaction mondiale et pression réglementaire
Les inquiétudes ne se limitent pas aux États-Unis : l’Inde, la France, le Royaume-Uni et l’Union européenne ont tous lancé des enquêtes officielles sur les capacités de Deepfake de Grok. Le procureur général de Californie, Rob Bonta, a envoyé à xAI une lettre de cessation et d’abstention, alléguant des violations des lois de l’État sur la décence et des nouvelles réglementations sur l’IA.
« Non seulement ces plateformes ne parviennent pas à protéger les enfants, mais elles facilitent activement la diffusion de contenus illégaux et exploiteurs. »
L’Indonésie rétablit l’accès sous conditions
L’Indonésie a initialement interdit l’accès à Grok en attendant la réponse de xAI aux problèmes de sécurité. Cependant, le 1er février, le pays a levé l’interdiction après avoir reçu l’assurance de la société Musk qu’elle avait mis en œuvre de nouvelles mesures de sécurité. Le ministère indonésien de la Communication et des Affaires numériques continuera de surveiller les garde-fous de Grok et a averti que l’interdiction pourrait être rétablie si de nouveaux abus se produisaient.
L’ampleur du problème
Selon un rapport du Center for Countering Digital Hate (CCDH), Grok a généré environ 3 millions d’images sexualisées – y compris celles représentant des enfants – en seulement 11 jours. Ce chiffre alarmant souligne l’urgence de remédier aux failles de sécurité de la plateforme.
La controverse met en évidence les risques plus larges associés aux technologies d’IA déployées rapidement et la nécessité d’une surveillance réglementaire plus stricte. L’avenir de l’utilisation de Grok sur les marchés gouvernementaux et internationaux dépend désormais de la capacité de xAI à démontrer un engagement vérifiable en faveur de la sécurité des utilisateurs et de la modération du contenu.
