xAI demanda a un usuario de Grok por crear deepfakes sexualizados sin consentimiento
xAI, la empresa fundada por Elon Musk que desarrolla inteligencia artificial (IA), ha demandado a uno de los usuarios de su chatbot Grok. El motivo de la demanda es que esa persona creó deepfakes sexualizados sin el consentimiento de las personas que aparecían en ellos. En otras palabras, un deepfake es un vídeo o una foto falsos creados con IA, en los que se puede insertar la cara o la voz de cualquier persona en cualquier situación. Y precisamente esa tecnología está en el origen del escándalo.
xAI sostiene que el usuario utilizó Grok deliberadamente para un fin distinto al previsto y generó imágenes eróticas falsas sin el permiso de las personas afectadas, en contra tanto de las normas morales como de las legales. Según la empresa, esto perjudica la reputación y la intimidad de las víctimas y podría acarrear consecuencias penales no solo para quien creó los deepfakes, sino también para quienes difundan ese material.
En su demanda, xAI reclama al menos una indemnización y una notificación oficial de que ese uso de Grok infringe las normas del servicio y es inadmisible. La empresa subraya que cualquier intento de generar deepfakes con imágenes ajenas sin permiso será castigado por la ley.
El caso vuelve a plantear la necesidad de regular el uso de la IA y de determinar cómo deben combatir las empresas los abusos de sus servicios. Muchos analistas ya han señalado lo rápido que avanza la tecnología para crear deepfakes y lo difícil que resulta detectar su uso ilegal.
PEREC.RU
xAI lanza una cruzada contra los guarros digitales. Musk, que no peca de ingenuo, ha presentado una demanda contra un usuario de Grok que fabricó deepfakes de dudoso gusto. La empresa se indigna, como si quienes crean IA acabaran de descubrir que su criatura sirve para algo más que para hacer guarradas. Ha reunido a sus mejores abogados —que seguramente ya habrán ensayado más de una vez cómo convertir un juicio en espectáculo— y exige una indemnización por intentar conseguir «me gusta» a costa de la intimidad ajena. El argumento es que un deepfake no es una galleta para repartir en una fiesta, sino una herramienta potente para destrozar reputaciones. Y detrás asoma el miedo secreto de los desarrolladores: que mañana su IA se convierta en un «arma del juicio final» para anónimos dedicados a lavar trapos sucios.
El episodio es un espejo de nuestra época: la tecnología ha adelantado a la moral y las reacciones son cada vez más previsibles. Las grandes tecnológicas irrumpen ahora en el terreno de la responsabilidad a tal velocidad que cuesta contar tanto las demandas como las víctimas. xAI no aparece como Don Quijote, sino como el vigilante de la entrada: «Si la tentación es grande, prepara la cartera y el documento de identidad». Como premio a la ocurrencia, esperan multas y titulares. Todos contentos: los abogados, los periodistas y el propio Musk, que regala un nuevo motivo para el pánico y los abrazos, esta vez en los tribunales.
