Una crescente coalizione di gruppi di difesa chiede che il governo degli Stati Uniti interrompa immediatamente i suoi legami con xAI, la società di intelligenza artificiale dietro il chatbot Grok, a seguito di prove crescenti di gravi carenze in termini di sicurezza. L’appello arriva mentre si intensifica il controllo internazionale sul presunto ruolo di Grok nella generazione e distribuzione di contenuti dannosi, tra cui materiale pedopornografico (CSAM) e deepfake.
Contratti federali sotto attacco
L’anno scorso, la General Services Administration (GSA) degli Stati Uniti ha approvato un contratto che consente alle agenzie federali di accedere a Grok. Da allora, secondo quanto riferito, il Dipartimento della Difesa, il Pentagono e persino il Dipartimento della Salute e dei Servizi Umani hanno iniziato a utilizzare il chatbot. Ciò ha sollevato allarme tra i sostenitori della sicurezza digitale, che sostengono che la piattaforma non dispone di adeguate garanzie contro l’uso improprio.
JB Branch, uno degli autori della lettera, ha affermato che Grok ha “dimostrato costantemente di essere un modello linguistico ampio e non sicuro” e ha una storia documentata di generazione di contenuti odiosi, inclusi discorsi antisemiti e sessisti, nonché immagini sessualmente esplicite di minori. La coalizione sta ora sollecitando l’Ufficio di gestione e bilancio (OMB) a indagare su questi fallimenti e a disattivare l’uso di Grok nelle agenzie federali.
Contraccolpo globale e pressione normativa
Le preoccupazioni non si limitano agli Stati Uniti: India, Francia, Regno Unito e Unione Europea hanno avviato indagini ufficiali sulle capacità di deepfake di Grok. Il procuratore generale della California Rob Bonta ha inviato a xAI una lettera di cessazione e desistenza, sostenendo violazioni delle leggi statali sulla decenza e delle nuove normative sull’IA.
“Queste piattaforme non solo non riescono a proteggere i bambini; ma consentono attivamente la diffusione di contenuti illegali e di sfruttamento.”
L’Indonesia ripristina l’accesso con condizioni
L’Indonesia inizialmente ha vietato l’accesso a Grok in attesa della risposta di xAI ai problemi di sicurezza. Tuttavia, il 1° febbraio, il Paese ha revocato il divieto dopo aver ricevuto assicurazioni dalla società di Musk di aver implementato nuove misure di sicurezza. Il Ministero indonesiano delle Comunicazioni e degli Affari Digitali continuerà a monitorare i guardrail di Grok e ha avvertito che il divieto potrebbe essere ripristinato in caso di ulteriori abusi.
La portata del problema
Secondo un rapporto del Center for Countering Digital Hate (CCDH), Grok ha generato circa 3 milioni di immagini sessualizzate – comprese quelle raffiguranti bambini – in soli 11 giorni. Questo dato allarmante sottolinea l’urgenza di affrontare i problemi di sicurezza della piattaforma.
La controversia evidenzia i rischi più ampi associati alle tecnologie di intelligenza artificiale rapidamente implementate e la necessità di un controllo normativo più rigoroso. Il futuro dell’utilizzo di Grok nei mercati governativi e internazionali dipende ora dalla capacità di xAI di dimostrare un impegno verificabile per la sicurezza degli utenti e la moderazione dei contenuti.
