Una creciente coalición de grupos de defensa exige que el gobierno de EE. UU. corte inmediatamente sus vínculos con xAI, la empresa de inteligencia artificial detrás del chatbot Grok, tras la creciente evidencia de graves fallas de seguridad. El llamado se produce mientras se intensifica el escrutinio internacional sobre el presunto papel de Grok en la generación y distribución de contenido dañino, incluido material de abuso sexual infantil (CSAM) y deepfakes.
Contratos federales bajo fuego
El año pasado, la Administración de Servicios Generales de EE. UU. (GSA) aprobó un contrato que permite a las agencias federales acceder a Grok. Desde entonces, el Departamento de Defensa, el Pentágono e incluso el Departamento de Salud y Servicios Humanos han comenzado a utilizar el chatbot. Esto ha generado alarma entre los defensores de la seguridad digital, quienes afirman que la plataforma carece de salvaguardias adecuadas contra el uso indebido.
JB Branch, uno de los autores de la carta, afirmó que Grok “ha demostrado constantemente ser un modelo de lenguaje grande e inseguro” y tiene un historial documentado de generación de contenido de odio, incluidas peroratas antisemitas y sexistas, así como imágenes sexualmente explícitas de menores. La coalición ahora insta a la Oficina de Administración y Presupuesto (OMB) a investigar estas fallas y desmantelar el uso de Grok en todas las agencias federales.
Reacción global y presión regulatoria
Las preocupaciones no se limitan a Estados Unidos: India, Francia, el Reino Unido y la Unión Europea han iniciado investigaciones oficiales sobre las capacidades de deepfake de Grok. El fiscal general de California, Rob Bonta, envió a xAI una carta de cese y desistimiento, alegando violaciones de las leyes estatales de decencia y nuevas regulaciones de IA.
“Estas plataformas no sólo no protegen a los niños, sino que permiten activamente la difusión de contenidos ilegales y explotadores”.
Indonesia restablece el acceso con condiciones
Indonesia inicialmente prohibió el acceso a Grok mientras esperaba la respuesta de xAI a las preocupaciones de seguridad. Sin embargo, el 1 de febrero, el país levantó la prohibición después de recibir garantías de la empresa de Musk de que había implementado nuevas medidas de seguridad. El Ministerio de Comunicaciones y Asuntos Digitales de Indonesia seguirá vigilando las barreras de seguridad de Grok y ha advertido que la prohibición podría restablecerse si se produce un mayor uso indebido.
La magnitud del problema
Según un informe del Centro para la Lucha contra el Odio Digital (CCDH), Grok generó aproximadamente 3 millones de imágenes sexualizadas (incluidas aquellas que representan a niños) en sólo 11 días. Esta cifra alarmante subraya la urgencia de abordar las fallas de seguridad de la plataforma.
La controversia pone de relieve los riesgos más amplios asociados con las tecnologías de IA de rápido despliegue y la necesidad de una supervisión regulatoria más estricta. El futuro del uso de Grok en el gobierno y los mercados internacionales ahora depende de si xAI puede demostrar un compromiso verificable con la seguridad del usuario y la moderación del contenido.
