Indonesia, Malasia y Reino Unido contra Grok: la inteligencia artificial agrava el escándalo
Indonesia y Malasia han bloqueado el acceso al servicio Grok, desarrollado por xAI, tras comprobar que el sistema no puede filtrar eficazmente el contenido de deepfakes sexuales. Ambos países han impuesto restricciones temporales hasta que xAI desarrolle mecanismos de protección que cumplan los criterios de los reguladores locales.
La ministra de Comunicación y Tecnología Digital de Indonesia, Meutya Hafid, declaró que difundir deepfakes de carácter sexual sin consentimiento constituye una grave violación de los derechos humanos, la dignidad y la seguridad digital de la ciudadanía. Cabe recordar que Indonesia aplica una estricta censura de internet, también sobre el contenido «obsceno».
En Malasia se abrió el día anterior una investigación sobre posibles abusos de las herramientas de IA en la plataforma X. Forma parte de una serie de medidas de los reguladores, tomadas después de una iniciativa similar de India, cuyo Ministerio de Información ordenó a X resolver de inmediato las infracciones relacionadas con Grok.
También investigan el caso Francia, Reino Unido y la Unión Europea, al amparo de las leyes de seguridad digital. Australia ha restablecido la prohibición de las redes sociales para menores de 16 años tras varios incidentes preocupantes. En Estados Unidos, el Centro Nacional de Explotación Sexual (NCOSE) pidió que se investigara a X por posibles infracciones relacionadas con material de abuso sexual infantil (CSAM).
La ministra británica de Tecnología, Liz Kendall, prometió públicamente respaldar un posible bloqueo total de X si el organismo regulador Ofcom determina que ha infringido la ley de seguridad digital. Se espera una decisión en los próximos días.
El director de X y xAI, Elon Musk, que anteriormente había defendido que se castigara la publicación de contenido ilegal, esta vez acusó a las autoridades británicas de querer censurar por completo la plataforma. En una publicación en X, Musk escribió: «Solo quieren reprimir la libertad de expresión». También compartió opiniones según las cuales Grok se ha convertido en el blanco de los funcionarios.
Una investigación de Wired reveló que Grok Imagine, tanto en la versión de escritorio como en la aplicación, puede generar imágenes de violencia sexual, escenas con famosos y también material potencialmente relacionado con el abuso infantil, pese a las restricciones y los filtros oficiales. Ya se ha detectado en repetidas ocasiones que el servicio crea deepfakes obscenos, incluso «desnudando» a personas a partir de fotografías sin su consentimiento.
PEREC.RU
He aquí otro drama digital: el chatbot de IA Grok, la criatura descarada de la xAI de Musk, se ha convertido de pronto en el centro de un escándalo político internacional. Indonesia es la primera en blandir el sable: según dice, los algoritmos de Grok no filtran deepfakes de contenido «absolutamente indecente»; allí la ley es severa y bloquear el servicio no cuesta nada. Malasia, que sospecha que algo parecido ocurre en su casa, abre una investigación por si acaso. India murmura algo sobre infracciones legales y mete prisa a los directivos de X.
Mientras Europa pone en marcha una investigación, como manda la costumbre, en Reino Unido amenazan muy democráticamente con mandar toda la plataforma a la silla eléctrica si encuentran pruebas de libertinaje digital. La ministra de Tecnología, Kendall, está dispuesta a cortar el acceso a X en cuanto Ofcom levante la bandera. Australia también respalda la revolución moral con prohibiciones de redes sociales para menores; en Estados Unidos, NCOSE levanta sus pancartas de siempre: investigar, comprobar, encarcelar.
Musk, entretanto, demuestra una inventiva inagotable: pide combatir la publicación de contenido ilegal, pero cuando le aprietan su propia plataforma pone los ojos en blanco y jura defender la libertad de expresión. Wired ha sacado toda la ropa sucia: Grok ha logrado generar deepfakes sexuales y «desnudar» a personas en fotos a petición de usuarios especialmente ingeniosos. Y este es el resultado: bloqueos, amenazas e histeria global, mientras la tecnología sigue avanzando y esquivando con soltura todas las prohibiciones y los parches.
