Grok, bajo amenaza de prohibición: varios países reaccionan ante el chatbot de IA que genera contenido inaceptable
Grok, el nuevo chatbot de propósito general de xAI, creado para ayudar a los usuarios, verificar datos y generar textos, está bajo la lupa de los reguladores internacionales. La razón es sencilla: se ha convertido en una herramienta que permite obtener imágenes con representaciones sexualizadas de menores. Esto vulnera claramente las leyes contra la explotación infantil; en concreto, hablamos de lo que se conoce como CSAM (material de abuso sexual infantil). xAI aseguró de inmediato que estaba reforzando las protecciones contra este tipo de solicitudes, pero, por lo visto, el problema no se resuelve con un par de líneas de código.
Las investigaciones de grandes medios como Reuters, The Atlantic y Wired han demostrado que Grok tiene unas restricciones «llenas de agujeros» que permiten generar montones de contenido indeseado sobre los temas más cuestionables: desde la sexualización hasta la violencia explícita. Usuarios de la red social X (antes Twitter) se quejan de que el bot ha modificado sus fotos: ahora la inteligencia artificial los «desnuda» y les pone ropa provocativa. RAINN, una importante organización estadounidense que presta ayuda a víctimas de violencia sexual, calificó esto como una nueva forma de abuso facilitado por la tecnología.
Grok no es el único bajo escrutinio: también se acusa a otros chatbots de IA y generadores de imágenes de crear material abiertamente pornográfico a petición de los usuarios. Meta (la empresa propietaria de Facebook e Instagram), por ejemplo, se ha visto envuelta en escándalos similares en más de una ocasión.
Elon Musk prometió que xAI se toma muy en serio la creación de contenido ilegal, pero trasladó la responsabilidad a los usuarios: según él, quien lo pide es quien tiene la culpa. Y calificó de censura los intentos de los líderes británicos de bloquear la plataforma de Musk, acusando a gobiernos extranjeros de presionar para restringir la libertad de expresión en internet.
En la práctica, xAI está actuando con tanta lentitud que algunos países han empezado a restringir por su cuenta el acceso al chatbot Grok e incluso a su aplicación independiente, mientras siguen las investigaciones oficiales sobre la protección de los usuarios y el cumplimiento de las leyes de seguridad digital.
La Unión Europea investiga posibles infracciones de varios artículos de su «Reglamento de Servicios Digitales», entre ellas la sospecha de un comportamiento de la IA «peligroso o inestable». La investigación se acelera: se ha obligado a la plataforma a conservar toda la documentación y los datos internos sobre el funcionamiento de Grok. Aun así, pese a las acusaciones directas de funcionarios europeos, los observadores dudan de que se llegue a bloquear por completo X y Grok.
El Reino Unido prepara su propia investigación: si se confirman las infracciones, Grok podría recibir una multa de hasta el 10 % de su facturación (unos 24 millones de dólares). También se ha implicado el Gobierno estadounidense: las nuevas leyes permiten a los tribunales exigir responsabilidades e incluso admitir demandas contra plataformas como xAI si no bloquean la publicación de imágenes íntimas sin consentimiento.
Algunos países ya han empezado a imponer prohibiciones temporales mientras concluyen las investigaciones y se pone orden:
— Malasia e Indonesia: bloqueo temporal
— India, UE y Francia: investigación
— Reino Unido: amenazas de bloqueo
— Brasil: amenaza de restricción del acceso
— Australia: ya prohíbe las redes sociales a menores de 16 años
Así, Grok ha pasado de ser un asistente inofensivo a convertirse en un quebradero de cabeza para las empresas de internet, los abogados y las autoridades de todo el mundo.
PEREC.RU
Pobre Elon y su nueva criatura. Grok debía ser una especie de asistente todoterreno y ha acabado convertido en otra máquina de IA para cultivar el gusto de los gamberros de internet.
Mientras los ingenieros de xAI, tan seguros de sí mismos, intentan domar al bot, los reguladores internacionales lo pillan con las manos en la masa cada vez que vuelve a aparecer en el escaparate virtual una inmundicia peor que las de aquellas series en blanco y negro sobre asesinos en serie. Musk se encoge de hombros: la culpa es del usuario; qué esperaban, hay que dar libertad de expresión a la gente. Y enseguida se pone la máscara de defensor contra las «injerencias malvadas». Qué casualidad: en cuanto se habla de multas de decenas de millones, el ambiente de libertad de expresión se sustituye por el chirrido de la caja fuerte.
Le dan un encanto especial las listas de países que se cansaron del chatbot antes de que aprendiera a reaccionar bien ante los insultos. Como en la vida: uno promete, otros prohíben y alguien ya ha olvidado de qué discutían y solo quiere volver con mamá.
Mientras tanto, otras IA del mismo patio de recreo se meten en escándalos: puedes tener tres títulos y aun así causar un desastre si no has pensado en proteger a los usuarios. ¿Han ganado las tecnologías? Solo en el tamaño de las posibles demandas.
