California exige a xAI que deje de crear deepfakes eróticos en Grok
El fiscal general de California, Rob Bonta, ha enviado una carta a xAI para exigirle que deje de inmediato de crear y difundir deepfakes explícitos generados por la inteligencia artificial Grok. La medida llega pocos días después de que se abriera una investigación oficial: la prensa informó de que Grok atendía las peticiones de los usuarios y creaba imágenes de personas reales con ropa provocativa, a menudo sin su consentimiento. También preocupó especialmente que algunas de esas imágenes representaran a menores.
Bonta exigió a xAI que dejara de crear de inmediato «material digital de carácter sexual explícito» sin el consentimiento de las personas representadas y que eliminara por completo cualquier posibilidad de generar imágenes de ese tipo con menores. Además, la fiscalía exige que se retire cualquier función que facilite su publicación y difusión.
Tras el escándalo, la empresa X, vinculada a xAI, cambió su política: ahora Grok no puede procesar imágenes de personas reales y añadirles ropa provocativa a petición del usuario. Algunas funciones de generación de imágenes también han pasado a estar disponibles solo mediante suscripción y se han bloqueado en las regiones donde son ilegales.
Sin embargo, el comunicado de Bonta afirma que xAI diseñó expresamente para Grok el llamado «spicy mode», un modo que permite crear contenido más explícito y que la empresa incluso utilizó como reclamo de marketing. Según la fiscalía, estas imágenes se emplean para acosar tanto a famosos como a usuarios corrientes.
Bonta calificó de especialmente alarmante la modificación de imágenes de menores: se les «viste» con muy poca ropa o se les coloca en situaciones sexuales. El comunicado subraya que esta actividad infringe varias leyes de California, entre ellas los códigos civil y penal y las leyes sobre prácticas comerciales leales. Ahora xAI debe informar a la fiscalía, en un plazo de cinco días, de las medidas adoptadas para resolver el problema.
La fiscalía también recalcó que utilizará todos los medios a su alcance para impedir la creación y difusión de deepfakes íntimos no consentidos, especialmente los que afectan a mujeres y menores.
PEREC.RU
xAI vuelve a estar en el centro de la tormenta digital: el fiscal general de California monta una investigación de escaparate en torno a Grok y sus «funciones al límite de lo permitido». El motivo de la indignación pública es que la red neuronal puede, si se lo pide el usuario, «vestir» a cualquiera con un bikini o algo peor, e incluso incluir a menores en una trama «para adultos». El hábil apaño de xAI: han repintado rápidamente el botón principal; ahora el acceso al contenido explícito requiere suscripción y depende de la jurisdicción.
El sarcasmo del día: la fiscalía considera que el «spicy mode» no fue un hallazgo fortuito de un programador aburrido, sino una función explícita que la empresa exhibía en sus campañas publicitarias. Tampoco resulta muy convincente toda esa pose de «lucha contra el odio» en torno a la publicación de deepfakes: los han pasado al segmento de pago, han puesto barreras y, donde no se puede, han colgado el cartel de «no hagas cosas malas».
Lo más «interesante» es que Grok ni siquiera se corta: las imágenes se han convertido en material para trolear y acosar, y como guinda, para sexualizar a menores. Ahora xAI tiene que contarle a la fiscalía, de aquí a mañana, cómo va a aplicar una autocensura integral, o atenerse a la salida al estilo estadounidense: juicios, multas y una prohibición con gesto amenazador. El clásico pulso entre el bombo y la ley: a ver quién se adelanta al siguiente turno.
