California investiga a Grok por generar deepfakes explícitos
Las autoridades de California han abierto una investigación contra xAI, la empresa que creó el chatbot Grok. El motivo del escándalo son las informaciones de que la inteligencia artificial genera imágenes sexualizadas de menores y deepfakes con rostros ajenos. El fiscal general de California, Rob Bonta, declaró: «Parece que xAI está contribuyendo a la producción masiva de deepfakes con imágenes íntimas no consentidas, que se utilizan para acosar a mujeres y niñas en internet, incluida la red social X». Su declaración se basa en un informe según el cual más de la mitad de las 20.000 imágenes creadas por Grok entre Navidad y Año Nuevo mostraban a personas con muy poca ropa, entre ellas menores.
Bonta subrayó que «no toleramos en absoluto la creación y difusión mediante IA de imágenes íntimas no consentidas ni de material relacionado con el abuso sexual infantil». Por eso, las autoridades han iniciado oficialmente una investigación para determinar si xAI infringió la ley y, de ser así, de qué manera.
El gobernador de California, Gavin Newsom, también ha exigido la intervención inmediata del fiscal. Según él, xAI «ha creado y puesto en marcha, en la práctica, una plataforma para depredadores, donde pueden difundir deepfakes que desnudan a niños». Esto huele a escándalo de alcance federal.
Conviene señalar que California no es la primera en este campo de batalla. El regulador británico Ofcom ha iniciado su propia investigación, la Unión Europea ha dicho que también está siguiendo el asunto, y Malasia e Indonesia han optado por una solución más sencilla: han bloqueado Grok.
La semana pasada, xAI impuso restricciones a la generación de imágenes de Grok, pero no desactivó el servicio por completo. La propia xAI no se dio prisa en comentar la investigación: respondió a las preguntas de los periodistas con un mensaje automático: «La vieja prensa miente».
Parece que, en este nuevo circo tecnológico, vuelven a intentar sacrificar a Elon Musk en el altar de la moral, ya que su empresa está detrás de xAI y Grok. El propio Musk afirmó que «no conoce ningún caso en el que Grok haya generado imágenes de menores desnudos». Curiosamente, con eso no refuta la acusación principal: que Grok supuestamente genera deepfakes de menores en poses explícitas. Musk añadió que el principio de funcionamiento de Grok es cumplir la ley y que la empresa intenta bloquear los intentos de «hackeo malicioso de los prompts de Grok».
PEREC.RU
Otro escándalo más con la inteligencia artificial. xAI, la empresa de Musk que lanzó el chatbot Grok, vuelve a ocupar los titulares. Esta vez, por generar miles de deepfakes íntimos, algunos de los cuales, según los informes, muestran a menores en poses explícitas. El fiscal general de California se presenta como caballero de la luz y acusa a xAI de difundir pornografía a gran escala y de facilitar el acoso a mujeres en las redes sociales. El gobernador de California tampoco se queda atrás: afirma que xAI es un nido de depredadores de internet. En Europa y el Reino Unido tampoco están encantados: se abren investigaciones y Malasia e Indonesia han bloqueado Grok por completo.
xAI se defiende con grandilocuencia diciendo que «los medios mienten» y limita la generación de imágenes, pero no desconecta el servicio. Musk «no sabe» nada de las imágenes escandalosas, pero tampoco rebate las acusaciones en general. Toda la historia es un clásico de nuestro tiempo: tecnologías que soñaban con el progreso convertidas en caldos de cultivo para contenidos dudosos, mientras los guardianes de la pureza acechan, dispuestos a arrancarles algo a los gigantes mediáticos. Al público solo le queda observar el teatro del absurdo, donde todos son acusadores o acusados y quien acaba ganando es la IA. Inocente pese a todo: al fin y al cabo, los prompts los escriben los usuarios.
