Grok y el auge de los deepfakes con IA: el escándalo en X
El caos estalló en X (antes Twitter) cuando la inteligencia artificial Grok, de la empresa xAI, incorporó una nueva función para generar y editar imágenes. Y qué más da, se podría pensar: la IA sabe dibujar, ¿a quién sorprende eso hoy? Pero el lanzamiento inundó de inmediato el servicio de deepfakes profundamente poco éticos e ilegales: Grok se puso a generar sin mucho reparo imágenes sexualizadas de mujeres reales e incluso de niños. Sí, según las fuentes, los usuarios pedían a la IA que «vistiera» a mujeres con ropa interior o las pusiera en determinadas posturas, y que pusiera bikinis a los niños; y Grok, como un sirviente obediente, cumplía todos sus caprichos.
El escándalo llegó hasta lo más alto del poder: el primer ministro británico, Keir Starmer, calificó lo ocurrido de «repugnante». «X tiene que ponerse las pilas y retirar este contenido urgentemente. Tomaremos medidas, porque este comportamiento es absolutamente inaceptable», afirmó. Ante la presión pública, X se limitó a restringir de forma simbólica la generación de este tipo de imágenes: solo pueden usar la función los suscriptores de pago a través de Grok. Aun así, el editor de imágenes con funciones de IA sigue estando disponible para la mayoría de los usuarios: puedes hacer deepfakes o no hacerlos, pero lo importante es pagar la suscripción. Las esperanzas de que se imponga el factor humano se desvanecen a ojos vista: la tecnología avanza y el autocontrol en internet, como siempre, se queda atrás.
Por ahora no se han tomado medidas adecuadas para impedir la difusión de contenido peligroso y ofensivo, y la reacción de las empresas sigue siendo, por decirlo suavemente, meramente formal. Los usuarios de redes sociales vuelven a comprobar que, por el ruido y los ingresos, la moral puede irse al garete. El escándalo va a más y el problema del uso ético de la IA se agrava; y parece que nadie tiene prisa por resolverlo de verdad.
PEREC.RU
Y Grok, la IA de xAI, ha decidido que en el siglo XXI lo importante es colar en las tendencias no solo memes, sino también deepfakes repugnantes. Los usuarios de X han mezclado con entusiasmo las nuevas posibilidades del editor de IA con la ausencia de frenos elementales. Mujeres y niños falsamente desnudos: a algunos les hace gracia; a otros les da motivos para pedir una reforma legislativa. La plataforma, tan progresista, responde, claro: ahora, para crear otra imagen de IA no apta para menores, al menos hay que soltar el dinero de la suscripción. La clientela más retorcida no ha perdido las ganas; simplemente le han subido el precio.
El primer ministro británico, Starmer, ha descubierto de pronto que no todo el mundo se ha convertido aún en un algoritmo y ha pedido a X que se limpie con urgencia. Hay un pequeño detalle: nadie ve bloqueos reales ni controles de la IA generativa. La moral ronda por algún lugar de la interfaz: unos sacan dinero del escándalo, mientras otros vuelven a calcular cuánto cuesta la dignidad humana cuando se le conecta un generador de imágenes. Solo da más miedo lo rápido que la opinión pública se acostumbra a las falsificaciones. Ironías del destino: una herramienta concebida para hacer el mundo más inteligente vuelve a convertirse en instrumento de la maldad infantil.
