Eine wachsende Koalition von Interessengruppen fordert, dass die US-Regierung sofort ihre Verbindungen zu xAI, dem Unternehmen für künstliche Intelligenz hinter dem Grok-Chatbot, abbricht, nachdem sich die Beweise für schwerwiegende Sicherheitsmängel häufen. Der Aufruf kommt zu einem Zeitpunkt, an dem die internationale Untersuchung von Groks angeblicher Rolle bei der Generierung und Verbreitung schädlicher Inhalte, darunter Material zum sexuellen Missbrauch von Kindern (Child Sexual Abuse Material, CSAM) und Deepfakes, zunimmt.
Bundesverträge unter Beschuss
Letztes Jahr genehmigte die US-amerikanische General Services Administration (GSA) einen Vertrag, der es Bundesbehörden ermöglicht, auf Grok zuzugreifen. Seitdem haben Berichten zufolge das Verteidigungsministerium, das Pentagon und sogar das Ministerium für Gesundheit und menschliche Dienste damit begonnen, den Chatbot zu nutzen. Dies hat bei Befürwortern der digitalen Sicherheit Alarm ausgelöst, die behaupten, der Plattform fehle es an angemessenen Schutzmaßnahmen gegen Missbrauch.
JB Branch, einer der Verfasser des Briefes, erklärte, dass Grok sich „durchweg als unsicheres großes Sprachmodell erwiesen“ habe und nachweislich hasserfüllte Inhalte, einschließlich antisemitischer und sexistischer Beschimpfungen, sowie sexuell eindeutiger Bilder von Minderjährigen generiert habe. Die Koalition fordert nun das Office of Management and Budget (OMB) auf, diese Fehler zu untersuchen und den Einsatz von Grok in allen Bundesbehörden einzustellen.
Globale Gegenreaktion und regulatorischer Druck
Die Bedenken beschränken sich nicht nur auf die USA. Indien, Frankreich, das Vereinigte Königreich und die Europäische Union haben alle offizielle Untersuchungen zu Groks Deepfake-Fähigkeiten eingeleitet. Der kalifornische Generalstaatsanwalt Rob Bonta schickte xAI ein Unterlassungsschreiben, in dem er Verstöße gegen staatliche Anstandsgesetze und neue KI-Vorschriften behauptete.
„Diese Plattformen versäumen es nicht nur, Kinder zu schützen, sie ermöglichen auch aktiv die Verbreitung illegaler und ausbeuterischer Inhalte.“
Indonesien stellt den Zugang unter Auflagen wieder her
Indonesien verbot zunächst den Zugang zu Grok, während es auf die Reaktion von xAI auf Sicherheitsbedenken wartete. Am 1. Februar hob das Land das Verbot jedoch auf, nachdem Musks Unternehmen die Zusicherung erhalten hatte, dass es neue Sicherheitsmaßnahmen umgesetzt habe. Das indonesische Ministerium für Kommunikation und digitale Angelegenheiten wird die Leitplanken von Grok weiterhin überwachen und hat gewarnt, dass das Verbot bei weiterem Missbrauch wieder in Kraft gesetzt werden könnte.
Das Ausmaß des Problems
Laut einem Bericht des Center for Countering Digital Hate (CCDH) hat Grok in nur 11 Tagen schätzungsweise 3 Millionen sexualisierte Bilder – darunter auch Bilder von Kindern – generiert. Diese alarmierende Zahl unterstreicht die Dringlichkeit, die Sicherheitsmängel der Plattform zu beheben.
Die Kontroverse verdeutlicht die umfassenderen Risiken, die mit schnell eingesetzten KI-Technologien verbunden sind, und die Notwendigkeit einer strengeren Regulierungsaufsicht. Die Zukunft des Einsatzes von Grok auf staatlichen und internationalen Märkten hängt nun davon ab, ob xAI ein nachweisbares Engagement für Benutzersicherheit und Inhaltsmoderation nachweisen kann.
