Rostoucí koalice lidskoprávních skupin vyzývá americkou vládu, aby okamžitě ukončila své partnerství s xAI, společností stojící za chatbotem Grok, kvůli rostoucím důkazům o závažných narušeních bezpečnosti. Výzva přichází v době zpřísňujícího se mezinárodního dohledu nad Grokem, který byl obviněn z vytváření a distribuce škodlivého obsahu včetně materiálů pro sexuální zneužívání dětí (CSAM) a deepfakes.
Federální smlouvy v ohrožení
V loňském roce americký úřad General Services Administration (GSA) schválil smlouvu umožňující federálním agenturám přístup do Groku. Od té doby prý začalo tohoto chatbota používat ministerstvo obrany, Pentagon a dokonce i ministerstvo zdravotnictví a sociálních služeb. To vyvolalo obavy mezi zastánci digitální bezpečnosti, kteří tvrdí, že platforma nemá dostatečné záruky proti zneužití.
J.B. Branch, jeden z autorů dopisu, uvedl, že Grok „opakovaně prokázal, že není bezpečný jako velký jazykový model“ a má zdokumentovanou historii generování nenávistného obsahu, včetně antisemitského a sexistického jazyka, stejně jako sexuálně explicitních obrázků nezletilých. Koalice nyní vyzývá Úřad pro rozpočet a řízení (OMB), aby prošetřil tyto nedostatky a ukončil používání Groku ve všech federálních agenturách.
Globální odezva a regulační tlak
Obavy se neomezují pouze na USA. Indie, Francie, Spojené království a Evropská unie již zahájily oficiální vyšetřování Grokovy deepfake schopností. Kalifornský generální prokurátor Rob Bonta poslal xAI dopis o zastavení a upuštění od obvinění z porušení státních zákonů o veřejné slušnosti a nových předpisů o umělé inteligenci.
„Tyto platformy nejenže neochrání děti, ale aktivně usnadňují šíření nezákonného a vykořisťujícího obsahu.“
Indonésie obnovuje přístup s podmínkami
Indonésie původně zakázala přístup do Groku, zatímco čekala na reakci xAI na bezpečnostní obavy. Země však 1. února zákaz zrušila poté, co obdržela ujištění od Muskovy společnosti, že byla zavedena nová bezpečnostní opatření. Indonéské ministerstvo komunikací a digitálních záležitostí bude nadále monitorovat bezpečnost Groka a varovalo, že zákaz by mohl být obnoven, pokud dojde k dalšímu zneužívání.
Rozsah problému
Podle zprávy Center to Counter Digital Hate (CCDH) Grok vygeneroval přibližně 3 miliony sexualizovaných obrázků – včetně obrázků dětí – za pouhých 11 dní. Toto alarmující číslo podtrhuje naléhavost řešení bezpečnostních problémů platformy.
Skandál zdůrazňuje širší rizika spojená s rychle nasazenými technologiemi umělé inteligence a nutnost přísnějšího regulačního dohledu. Budoucnost využití Groku vládou a mezinárodními trhy nyní závisí na tom, zda xAI dokáže prokázat skutečný závazek k bezpečnosti uživatelů a moderování obsahu.
