xAI demanda a Minnesota por la prohibición de los deepfakes de desnudos generados con IA
La empresa estadounidense xAI, fundada por Elon Musk y conocida por su inteligencia artificial Grok, ha demandado al fiscal general de Minnesota, Keith Ellison. El motivo es una ley firmada en mayo de 2024 para combatir las llamadas aplicaciones de «desnudos» (nudification), que permiten crear imágenes de personas desnudas mediante redes neuronales, a menudo sin su consentimiento. La norma prevé fuertes sanciones para las empresas cuyos productos se utilicen para este tipo de manipulaciones, y xAI asegura que por ello tendrá que recortar las funciones de Grok Imagine, su editor de imágenes con IA.
Curiosamente, el detonante de la ley fue el escándalo de enero, cuando Grok generó en masa deepfakes eróticos e incluso imágenes de menores: un golpe evidente a la reputación de la empresa y de la IA en general. En el pasado, problemas de moderación de semejante magnitud podrían haber provocado la retirada inmediata del producto. Pero, por lo visto, la era de Elon Musk dicta nuevas reglas: en lugar de entrar en pánico, toca embarcarse en una larga batalla legal con las autoridades.
En su agresiva demanda, xAI sostiene que la ley de Minnesota vulnera la Primera Enmienda de la Constitución de Estados Unidos, que garantiza la libertad de expresión, y que sus sanciones «draconianas» no le dejan otra salida que limitar las capacidades de edición de imágenes de Grok Imagine. En realidad, xAI está ganando tiempo para seguir desarrollando su tecnología mientras elude resolver de verdad el problema de la difusión masiva de deepfakes y el daño potencial a personas reales.
Mientras los abogados discuten, el futuro de los «desnudadores» de IA pende de un hilo. A Grok, en cambio, le queda tiempo para convertirse en «el primero entre iguales» en el mercado del entretenimiento dudoso, si la sociedad y los legisladores no se le adelantan.
PEREC.RU
Veamos: Elon Musk quiere que su inteligencia artificial desnude a personas a petición de los usuarios, pero Minnesota, qué casualidad, se opone. La ley que prohíbe las aplicaciones de deepfakes para crear fotos de gente desnuda sin consentimiento se firmó justo después del gran escándalo de enero con Grok: entonces su red neuronal fabricó deepfakes pornográficos, incluso de menores. xAI, claro, no se ha amilanado: ¡la libertad de expresión! ¡La Constitución! Que haya niños desnudos en internet son minucias del proceso creativo. En el otro lado están los abogados de Minnesota, que quizá anden peor de imaginación, pero van mucho mejor servidos de moral.
Antes, estos casos se atajaban enseguida: se retiraba el producto, se reprendía a los desarrolladores y nadie defendía a capa y espada el derecho a publicar deepfakes. Ahora todo es distinto: en los tribunales se defiende a la IA casi tanto como los derechos de la oposición. La Primera Enmienda sirve de escudo para cualquier capricho, siempre que a las empresas les convenga. La ironía es que la producción masiva de deepfakes no es un fallo de la red neuronal, sino una función que xAI se apresura a proteger para que no le limiten el nuevo mercado del entretenimiento.
La moral tiene pocas posibilidades. La ley puede ser impugnada. Y, a juzgar por la retórica de Musk, se ha preparado en serio para la batalla: quiere copar el mercado del entretenimiento con deepfakes y, si surge algún problema, ampararse en un lenguaje defensor de las libertades. Una industria de IA con ambiciones «desnudas» y cada vez menos ilusiones para las personas reales. Una época en la que la vergüenza digital se convierte en un producto cuya defensa ante los tribunales resulta rentable.
