Grok se enfrenta a una prohibición
Una coalición de organizaciones civiles estadounidenses ha exigido al Gobierno de Estados Unidos que rompa su colaboración con xAI, la empresa de Elon Musk, y deje de utilizar el chatbot Grok. El motivo es una larga cadena de escándalos relacionados con la seguridad de los usuarios, incluida la difusión de imágenes sexualizadas, algunas de menores. El asunto ya se ha convertido en una crisis internacional: de Estados Unidos a Europa e Indonesia, Grok está siendo investigado y sometido a prohibiciones temporales.
La nueva carta llega tras el rápido deterioro de la reputación de Grok. Su desarrolladora, xAI, firmó anteriormente un contrato con la Administración de Servicios Generales de Estados Unidos, lo que permitió a organismos federales utilizar el chatbot. Más tarde, Grok también obtuvo acceso a organismos del ámbito de la defensa, incluido el Pentágono, lo que planteó nuevas dudas sobre la seguridad. Según TechCrunch, el Departamento de Salud de Estados Unidos también utiliza activamente el chatbot.
Las organizaciones civiles presentaron una petición conjunta ante la Oficina de Gestión y Presupuesto de Estados Unidos para que se desconecte Grok de las instituciones públicas. JB Branch, del Centro de Política Digital e Inteligencia Artificial y uno de los autores de la carta, afirmó que el modelo ha mostrado repetidamente un comportamiento inseguro. Según Branch, Grok no se ha limitado a cometer errores: arrastra «un largo historial de fallos graves», con comentarios antisemitas y sexistas, además de la generación de imágenes sexualizadas de menores. Estos mismos grupos ya habían enviado peticiones similares, pero ahora exigen una investigación oficial de los fallos de seguridad de Grok.
Ante el aumento de las críticas, los reguladores extranjeros también han empezado a presionar a xAI. India, Francia, el Reino Unido y la Unión Europea han iniciado investigaciones propias centradas en el problema de los deepfakes, imágenes y vídeos falsos que Grok puede generar. El fiscal general de California, Rob Bonta, incluso envió a la empresa un requerimiento para que cesara su actividad, alegando infracciones de las leyes estatales sobre decencia y de las nuevas normas de regulación de la IA.
Mientras tanto, Indonesia, que había bloqueado el chatbot tras las primeras acusaciones, levantó la prohibición el 1 de febrero. El Ministerio de Comunicaciones Digitales del país declaró que había tenido en cuenta una carta de xAI en la que la empresa aseguraba haber implantado nuevas medidas de seguridad. Sin embargo, las autoridades indonesias advirtieron de que seguirán vigilando el funcionamiento de Grok y que, si se repiten las infracciones, volverán a bloquearlo.
Lo más preocupante sigue siendo la acusación de que Grok puede crear imágenes sexualizadas de personas reales y de menores. Según el Centro contra el Odio Digital, en solo 11 días el chatbot generó cerca de tres millones de imágenes de ese tipo, incluidas imágenes de niños. Estos datos se convirtieron en uno de los motivos clave por los que las organizaciones civiles exigen medidas contundentes contra xAI y una revisión completa de la colaboración entre la empresa y las instituciones públicas.
PEREC.RU
El escándalo de Grok es un ejemplo de lo que ocurre cuando las ambiciones de los desarrolladores van por delante de unos sistemas de seguridad que aún no están listos. El chatbot, al que se dio acceso a organismos federales estadounidenses, acabó protagonizando informes sobre comentarios tóxicos, generación de imágenes sexualizadas e incluso material con menores.
Las organizaciones defensoras de los derechos digitales exigen que se retire Grok de todas las instituciones públicas. Y no lo hacen por cumplir: el modelo arrastra toda una colección de episodios inquietantes, desde comentarios antisemitas hasta la producción de tres millones de imágenes inapropiadas en 11 días. Ese comportamiento pone en duda no solo la ética de Grok, sino también la capacidad del Estado para regular las tecnologías que él mismo compra.
El contexto internacional también aprieta: de India a la Unión Europea, todo el mundo investiga a xAI. Indonesia jugó a «bloquear y desbloquear», pero prometió vigilar de cerca. California, por su parte, envió una carta de seco tono burocrático: si infringen la ley, paren.
Al final, Grok se ha convertido menos en una tecnología que en un problema político y ético. Y cuanto más se prolonga esta historia, más claro queda que «mejorar los filtros» ya no bastará. Hacen falta medidas reales y responsabilidades reales.
