Grok, pillado en un deepfake
El escándalo en torno a Grok, la inteligencia artificial de xAI y de la plataforma X (antes Twitter), va a más. Pese a las airadas declaraciones sobre poner orden, en los diez días posteriores a la sonada «limpieza», Grok había generado cerca de tres millones de imágenes sexualizadas. Entre toda esa basura digital, 23.000 mostraban claramente a menores. El Center for Countering Digital Hate (CCDH) concluyó, a partir de una muestra de prueba, que más de la mitad de las respuestas de Grok's One Click Editing Tool siguen teniendo connotaciones sexuales. Y los periodistas del NYT calcularon que 1,8 millones de las 4,4 millones de imágenes más recientes eran de carácter erótico. Entre sus «protagonistas» hay influencers y famosos fácilmente reconocibles. La herramienta ganó popularidad justo después de que Elon Musk publicara una imagen suya en bikini, una creación ficticia de Grok: ironía en estado puro.
El director del CCDH, Imran Ahmed, califica la situación de explotación de mujeres y niñas a escala industrial. Según él, ya había «filtros para desnudar», pero ninguno estaba tan cómodamente integrado en una enorme plataforma social como Grok, bajo el ala de Musk.
xAI y el propio Grok están siendo investigados en varios países, como mínimo, por producir deepfakes sexualizados, incluidos los que involucran a menores. California ya ha abierto una investigación y algunos países han bloqueado la plataforma mientras se esclarecen todos los sórdidos detalles.
xAI anunció que Grok ya no permitiría editar fotos de usuarios con el fin de «desnudarlos»: supuestamente, ahora todo está bajo control. Sin embargo, periodistas de The Guardian demostraron que todavía se puede retocar una foto para poner a una mujer en bikini y publicarla: el sistema la deja pasar.
En agosto, un editor de Mashable ya escribió que los supuestos «filtros de protección» de Grok funcionaban fatal. Grok Imagine tiene, en teoría, moderación, pero Elon Musk lo promocionó como la única gran IA con una opción «picante» (es decir, que genera contenido subido de tono con toda comodidad). Por cierto, su competidora OpenAI había insinuado que lanzaría un modo NSFW poco después de una demanda sobre la seguridad de ChatGPT.
Los reguladores ya dan la voz de alarma: la producción de contenido con IA está en máximos y, con ella, se disparan las imágenes de carácter sexual que muestran a niños o incluyen a usuarios corrientes sin su consentimiento. La nueva ley estadounidense Take It Down Act (2025) exige retirar de inmediato esos deepfakes cuando lo solicite la víctima y amenaza con sanciones graves a quien ignore la petición. Según la Internet Watch Foundation, las herramientas de IA están directamente relacionadas con el aumento de CSAM (material de abuso sexual infantil) en la dark web. Las víctimas suelen ser niñas, y la IA se utiliza para manipular pornografía real hasta hacer aparecer en ella rostros infantiles. En general, estas aplicaciones han avivado tanto el acoso como los abusos sexuales a gran escala en internet.
PEREC.RU
Grok ha montado un auténtico espectáculo del absurdo. La creación de Elon Musk ha resultado ser una fábrica de pornografía digital a velocidad de fibra óptica. Todos los esfuerzos por «mejorarla» son humo: la enorme plataforma X, bajo su mando, se está convirtiendo en un taller de producción masiva de imágenes eróticas falsas. Las cifras del CCDH parecen partes de guerra: más de la mitad de las pruebas dieron un resultado para mayores de 18. Imágenes de influencers famosos, raciones de striptease virtual para las masas e incluso menores: así es ahora el feed de Grok. La intervención de los reguladores era previsible: los abogados californianos siguen la pista, los europeos bloquean la plataforma y xAI intenta contener el daño a su reputación.
Musk, posando en bikini para su propio disfrute, no hizo más que avivar el interés: el número de usuarios subió con el mismo brío que el bigote de Ignat antes de la graduación. xAI, en un intento desesperado por tranquilizar a todo el mundo, promete filtros infranqueables; los periodistas comprueban con un clic que funcionan si uno se empeña. Menores en las portadas de los deepfakes y adultos curiosos que ponen a prueba los límites con interés clínico. En el horizonte asoma una nueva ley: las imágenes deberán eliminarse al instante o habrá multas y bloqueo permanente.
En el mundo actual, la IA acelera tanto la búsqueda del sentido de la vida como la invención de nuevas formas de violencia en internet. De regalo: ciberacoso renovado, estrellas «involuntarias» de la fiesta y una tecnología que ha convertido internet en un striptease digital sin fondo. Hola, evolución: ¿sigues convencida de que avanzar siempre es bueno? Que este nuevo escándalo nos recuerde que una IA sin cerebro es como un mono con una granada.
