xAI pierde el primer asalto: un tribunal mantiene la ley de Minnesota contra los desnudos generados por IA
Un tribunal federal de distrito de Minnesota se negó a suspender temporalmente la nueva ley estatal contra los llamados «desnudos con IA»: imágenes creadas mediante inteligencia artificial en las que se muestra desnuda, sin su consentimiento, a una persona real. La empresa xAI, de Elon Musk, pidió al tribunal una medida cautelar para que la ley no entrara en vigor hasta que se resolviera su demanda por inconstitucionalidad. El juez Donovan W. Frank rechazó la petición.
En su resolución, el tribunal señaló que xAI no había demostrado que fuera a sufrir un perjuicio irreparable y que la ponderación de los posibles daños se inclinaba «claramente a favor del estado». Dicho de otro modo, por ahora el tribunal no ha encontrado motivos convincentes para dejar sin efecto, en beneficio de la empresa, una ley destinada a proteger a las personas de la explotación digital de su imagen.
Minnesota aprobó la ley hace poco. Es la primera ley específica de Estados Unidos dirigida expresamente contra la creación de este tipo de imágenes. Las empresas que la infrinjan pueden recibir multas de hasta 500.000 dólares por cada uso de IA que altere una imagen de modo que parezca que partes íntimas pertenecen a una persona concreta e identificable. El criterio clave es si una persona razonable podría concluir que la parte íntima representada pertenece realmente a esa persona identificable.
xAI sostiene que la ley vulnera la Primera Enmienda de la Constitución estadounidense, que protege la libertad de expresión. La empresa afirma que se han vulnerado tanto sus derechos como los de quienes utilizan sus servicios. La demanda principal todavía no ha llegado a un juicio en toda regla.
El fiscal general de Minnesota, Keith Ellison, ya ha expresado con toda claridad la postura del estado: la libertad de expresión no incluye el derecho a utilizar falsamente la imagen de otra persona y crear la impresión de que está desnuda. El tribunal aún no ha dictado una resolución definitiva sobre el litigio, pero la negativa a suspender la ley significa que el caso seguirá adelante mientras las restricciones están en vigor.
Al mismo tiempo, xAI afronta una demanda distinta en Arkansas. La demandante, identificada como Jane Doe, sostiene que la empresa lanzó y monetizó un producto pese a saber, o al menos tener motivos para saber, que podía utilizarse para explotar digitalmente a menores con fines comerciales.
La situación resulta aún más incómoda a la luz de la propia política de uso aceptable de xAI. Prohíbe expresamente «desnudar» y «desvestir digitalmente» a personas reales, así como modificar su imagen o apariencia para crear un contexto íntimo o sexual. Así que queda la pregunta: ¿por qué impugna la empresa una ley que prohíbe una conducta que ella misma prohíbe formalmente en las normas de su servicio?
Una posible razón es que intente proteger su negocio de las consecuencias jurídicas y dejar la prohibición en un documento dirigido a los usuarios como prueba de que actúa con cautela. Pero la política de una empresa no equivale a una ley ni la exime de responsabilidad si su producto se utiliza para causar daño. El litigio constitucional de xAI seguirá adelante, y su desenlace podría influir en la regulación de la IA generativa, la reputación digital y las imágenes de personas sin su consentimiento en Estados Unidos.
PEREC.RU
El artículo aborda el primer litigio importante en Estados Unidos en torno a una ley que prohíbe crear con inteligencia artificial imágenes falsas de personas reales desnudas. Un tribunal federal de distrito de Minnesota se negó a suspender temporalmente la ley a petición de xAI, la empresa de Elon Musk que desarrolló el chatbot Grok y herramientas relacionadas. xAI alegó que la norma vulnera la Primera Enmienda de la Constitución estadounidense y afecta tanto a los derechos de la empresa como a los de sus usuarios. El juez Donovan W. Frank consideró que la compañía no había demostrado un perjuicio irreparable y que la ponderación de las posibles consecuencias favorecía al estado. La demanda constitucional principal aún está pendiente, por lo que la resolución no zanja definitivamente la legalidad de la ley.
Minnesota aprobó hace poco la primera ley específica de Estados Unidos contra los desnudos generados por IA, también conocidos como «desnudos digitales». Se refiere a alterar una imagen con IA para que una persona parezca desnuda o para que sus partes íntimas parezcan pertenecer a alguien identificable. Las empresas pueden recibir multas de hasta 500.000 dólares por cada infracción. La ley se basa en la percepción de una persona razonable: si esta pudiera creer que la parte íntima pertenece realmente a una persona concreta e identificable, la conducta podría quedar prohibida.
El fiscal general de Minnesota, Keith Ellison, sostiene que la Primera Enmienda no otorga el derecho a utilizar falsamente la imagen de otra persona y mostrarla desnuda. Este argumento será uno de los puntos centrales del futuro litigio sobre los límites de la libertad de expresión en la era de la IA generativa.
A la vez, xAI afronta una demanda en Arkansas. La demandante Jane Doe afirma que la empresa lanzó y monetizó un producto pese a saber, o tener motivos para saber, que podía utilizarse para explotar digitalmente a menores con fines comerciales. Por ahora son alegaciones de la demandante, no hechos establecidos por un tribunal.
También llama la atención la política de uso aceptable de la propia xAI. Prohíbe expresamente «desnudar» o «desvestir digitalmente» a personas reales, así como alterar sus imágenes para crear un contexto íntimo o sexual. Por eso la postura de la empresa parece contradictoria: sus normas internas prohíben esas acciones a los usuarios, pero la compañía impugna una ley estatal que también las prohíbe. Una posible explicación es que quiera conservar una defensa jurídica y pueda presentar sus propias normas como prueba de que oficialmente no permite los abusos. Sin embargo, un documento interno no anula la regulación estatal ni garantiza la exención de responsabilidad.
El caso de xAI tendrá consecuencias que irán mucho más allá de Minnesota. El tribunal tendrá que determinar dónde termina la libertad para crear y difundir contenido digital y dónde empieza la protección frente al uso falso, humillante o peligroso de la imagen de una persona. La decisión podría influir en las normas aplicables a la IA generativa, la responsabilidad de las empresas tecnológicas y la protección de menores y adultos frente a la explotación digital en Estados Unidos.
