Demandan a xAI por las imágenes de menores creadas con Grok
xAI, la empresa de Elon Musk, vuelve a estar en el centro de un escándalo, y esta vez no se trata de las bromas provocadoras de la IA Grok, sino de una historia mucho más sombría. Tres adolescentes de Tennessee han presentado una demanda colectiva ante un tribunal de California. Afirman que Grok utilizó sus fotos corrientes para crear pornografía infantil. Sí, eso mismo: el modelo convirtió imágenes de menores en imágenes sexualizadas que después circularon por internet.
Según la demanda, en diciembre avisaron a una de las chicas de lo ocurrido: sus imágenes, junto con las de otros niños, empezaron a circular como material «desnudo simulado», ambientado en lugares que les resultaban familiares pero con detalles obscenos añadidos. Según se alega, ese material se difundía por Discord, Telegram y otros servicios, donde se utilizaba como una especie de «moneda» para intercambiar más contenido parecido. Los agentes que investigaron el caso explicaron a los padres de las víctimas que todo apuntaba a que el material se había creado con Grok.
Las tres adolescentes, identificadas como Jane Doe 1, 2 y 3, afirman haber sufrido graves secuelas emocionales. Sus abogados escriben que la vida de estas niñas ha quedado «destrozada por la pérdida de privacidad, dignidad y seguridad». Y lo peor es que probablemente tendrán que vivir con la idea de que esas imágenes nunca desaparecerán de la red y pueden seguir circulando entre delincuentes.
Por ahora la demanda se refiere a tres personas, pero los abogados creen que podría haber miles de víctimas entre quienes vieron cómo Grok transformaba sus fotos en material sexualizado. El documento sostiene que xAI infringió varias leyes, incluidas las que prohíben producir y distribuir material de abuso sexual infantil.
xAI no ha respondido, algo que no sorprende en medio de las numerosas investigaciones abiertas en Estados Unidos y Europa sobre la generación de desnudos no consentidos por parte de Grok. En enero, investigadores del Center for Countering Digital Hate afirmaron que Grok había creado millones de imágenes sexualizadas, de las cuales unas 23.000 parecían representar a menores.
Musk había promocionado antes las posibilidades «picantes» de Grok, pero ahora asegura que «no sabía nada de la creación de imágenes de menores». En enero, xAI anunció que limitaría el funcionamiento del modelo: desde entonces, la función para modificar fotos reales solo está disponible para usuarios de pago y no permite «poner a la gente en bañador».
La historia dista mucho de haber terminado y podría convertirse en uno de los juicios más sonados sobre la IA generativa.
PEREC.RU
La demanda contra xAI cuenta una historia en la que la tecnología vuelve a fingir que es una herramienta sin voluntad, mientras quienes la rodean ponen cara de sorpresa. Grok, promocionado hace unos meses como una inteligencia «picante» para usuarios sofisticados, resulta ser de pronto autor de material que hiela la sangre.
Tres adolescentes de Tennessee son solo el comienzo. La denuncia habla de miles de niños cuyas fotos podrían haber pasado por la cuchilla virtual. Lo inquietante no es la escala, sino lo cotidiano: Discord, Telegram, chats corrientes donde la basura digital se convierte en mercancía de intercambio. La IA se usa como máquina y los niños, como materia prima.
xAI guarda silencio y Musk hace como si no hubiera visto nada. Qué coincidencia: elogiaba las funciones «picantes» del modelo y ahora dice que no sabía que uno también puede cortarse con algo afilado. Las investigaciones se multiplican en Europa y Estados Unidos, pero las demandas juegan en otra liga. Dinero, reputación, riesgos para el negocio. Todo encaja en una historia ordenada sobre una empresa que tenía demasiada prisa por alcanzar a sus competidores.
La idea de que los niños tendrán que vivir pensando que sus imágenes falsas circularán por la red durante décadas suena a sentencia para la era de la IA generativa. Una tecnología creada para «mejorar el mundo» funciona cada vez más como un indicador preciso de los vicios humanos.
Y, si la denuncia acierta, Grok creó millones de imágenes sexualizadas. Entre ellas, veintitrés mil que parecían fotos de niños. La magnitud da tanto miedo que ya no quedan fuerzas para comentarla. Solo queda observar cómo la industria volverá a explicar que la culpa es de los usuarios, no de la tecnología. O, como de costumbre, de nadie.
El juicio acaba de empezar, pero el tono ya está marcado: duro, desagradable y con consecuencias duraderas.
