Een groeiende coalitie van belangengroepen eist dat de Amerikaanse regering onmiddellijk haar banden verbreekt met xAI, het kunstmatige-intelligentiebedrijf achter de Grok-chatbot, na toenemend bewijs van ernstige tekortkomingen op het gebied van de veiligheid. De oproep komt omdat het internationale toezicht op de vermeende rol van Grok bij het genereren en verspreiden van schadelijke inhoud, waaronder materiaal over seksueel misbruik van kinderen (CSAM) en deepfakes, toeneemt.
Federale contracten onder vuur
Vorig jaar keurde de Amerikaanse General Services Administration (GSA) een contract goed waardoor federale agentschappen toegang kregen tot Grok. Sindsdien zijn het ministerie van Defensie, het Pentagon en zelfs het ministerie van Volksgezondheid en Human Services naar verluidt de chatbot gaan gebruiken. Dit heeft alarm geslagen onder voorstanders van digitale veiligheid, die beweren dat het platform onvoldoende bescherming biedt tegen misbruik.
JB Branch, een van de auteurs van de brief, verklaarde dat Grok “consequent heeft aangetoond een onveilig groottaalmodel te zijn” en een gedocumenteerde geschiedenis heeft van het genereren van haatdragende inhoud, waaronder antisemitische en seksistische tirades, evenals seksueel expliciete beelden van minderjarigen. De coalitie dringt er nu bij het Office of Management and Budget (OMB) op aan om deze mislukkingen te onderzoeken en het gebruik van Grok door federale agentschappen te beëindigen.
Mondiale tegenslag en regeldruk
De zorgen beperken zich niet tot de VS. India, Frankrijk, het Verenigd Koninkrijk en de Europese Unie zijn allemaal officieel onderzoek gestart naar de deepfake-capaciteiten van Grok. De procureur-generaal van Californië, Rob Bonta, stuurde xAI een last onder dwangsom, waarin hij schendingen van de fatsoenswetten van de staat en nieuwe AI-regelgeving beweerde.
“Deze platforms slagen er niet alleen niet in om kinderen te beschermen; ze maken actief de verspreiding van illegale en uitbuitende inhoud mogelijk.”
Indonesië herstelt toegang onder voorwaarden
Indonesië verbood aanvankelijk de toegang tot Grok in afwachting van de reactie van xAI op veiligheidsproblemen. Op 1 februari hief het land het verbod echter op nadat het bedrijf van Musk de verzekering had gekregen dat het nieuwe veiligheidsmaatregelen had geïmplementeerd. Het Indonesische ministerie van Communicatie en Digitale Zaken zal de vangrails van Grok blijven monitoren en heeft gewaarschuwd dat het verbod opnieuw kan worden ingesteld als er verder misbruik plaatsvindt.
De omvang van het probleem
Volgens een rapport van het Center for Countering Digital Hate (CCDH) genereerde Grok in slechts elf dagen naar schatting 3 miljoen geseksualiseerde afbeeldingen – inclusief afbeeldingen van kinderen. Dit alarmerende cijfer onderstreept de urgentie van het aanpakken van de veiligheidsproblemen van het platform.
De controverse benadrukt de bredere risico’s die gepaard gaan met snel ingezette AI-technologieën en de noodzaak van strenger regelgevend toezicht. De toekomst van het gebruik van Grok bij de overheid en op internationale markten hangt nu af van de vraag of xAI een verifieerbare toewijding aan gebruikersveiligheid en contentmoderatie kan aantonen.
