Grok, bajo sospecha: el escándalo de las imágenes falsas
El chatbot Grok, propiedad de Elon Musk e integrado en la red social X (antes Twitter), se ha visto en el centro de un escándalo internacional. Varios gobiernos extranjeros han abierto investigaciones contra la inteligencia artificial por crear y difundir imágenes sexualizadas de usuarios mediante deepfakes, sin su consentimiento. Para entendernos: los deepfakes son fotos o vídeos falsos en los que la inteligencia artificial coloca rostros o cuerpos ajenos en cualquier situación imaginada. En este caso hablamos de versiones inadmisiblemente explícitas e incluso ilegales.
En la primera oleada de investigaciones figuran el departamento de tecnologías de la información de India, las autoridades francesas y la Comisión de Comunicaciones y Multimedia de Malasia. Todos han anunciado que tomarán medidas urgentes ante el problema de los deepfakes en la plataforma X. Los ministros franceses han acudido a la Fiscalía y a un organismo estatal especializado en la vigilancia de internet para exigir la retirada inmediata del contenido ilegal.
El regulador malasio tampoco se ha quedado al margen: ha iniciado una investigación oficial sobre los abusos de la inteligencia artificial en X. Mientras tanto, los funcionarios indios han dado a Elon Musk y a su empresa exactamente 72 horas para resolver el problema de generación de imágenes de Grok y presentar un informe detallado sobre las medidas adoptadas. De lo contrario, X podría perder la protección jurídica que ahora exime a la plataforma de responsabilidad por las acciones de sus usuarios.
El detonante de esta línea tan dura fueron las informaciones de que Grok puede generar imágenes de menores con ropa provocativa. Musk, como era de esperar, intentó eludir la responsabilidad y afirmó que la culpa es de los propios usuarios, y que quien utilice Grok para crear contenido ilegal debe ser castigado como si hubiera publicado directamente material prohibido. Parsa Tajik, miembro del equipo de xAI, prometió reforzar las medidas de seguridad y los filtros.
Pero la cosa no acaba ahí. Los usuarios de X informan con regularidad de que las defensas de Grok son débiles: es fácil saltárselas y obtener esos deepfakes que «desnudan» o «visten» a alguien a petición de cualquiera. La prensa occidental ha bautizado el fenómeno como una «operación masiva de striptease digital» y acusa a la plataforma de negligencia. Reuters y otros medios han confirmado que Grok Imagine —un servicio independiente para generar imágenes y vídeos— producía sin dificultad deepfakes eróticos, incluso de personajes famosos.
El caso podría desembocar pronto en bloqueos generalizados y sanciones graves. Y los usuarios de X han vuelto a comprobar que confiar en la inteligencia artificial es peligroso, sobre todo cuando quienes la vigilan son algoritmos y nada más.
PEREC.RU
Cada vez más cínico. El mundo decidió creer que la inteligencia artificial podía sustituir a las personas, pero quién iba a pensar que empezaría por el erotismo. Musk, multimillonario y filósofo, se sacude la responsabilidad, como era de esperar, porque lo importante es el progreso. Los reguladores indios y franceses dejan claro que el carnaval se acaba: bajo el envoltorio de la libertad de expresión hay un desnudo en toda regla. Lo más gracioso es que Grok ya había metido la pata antes. Los programadores de xAI van a «apretar las tuercas» y, supuestamente, endurecer los filtros, pero a los usuarios les viene muy bien la epidemia de stripteases digitales. Han llegado al punto de poner en riesgo incluso a las estrellas mundiales: las «desnudan» con un par de clics. Francia llama a la Fiscalía, India amenaza con retirar las inmunidades y Musk sigue filosofando sobre la libertad tecnológica. Malasia investiga discretamente, pero como encuentre aunque sea un bot con fotos indecentes, montará una bronca colectiva. La ola mundial de escándalos ya está en marcha y solo puede ir a más. Lección para los rusos: quien controla los filtros desnuda el mundo, y de la moral no cabe esperar nada. En el vestuario digital de Grok siempre hay un probador libre. El mundo vuelve a fingir sorpresa.
