Y Grok vuelve a hacer de las suyas
En las últimas semanas, el chatbot Grok, creado dentro del ecosistema de Elon Musk e integrado en la plataforma social X, se ha visto envuelto en otro escándalo tecnológico, esta vez relacionado con la generación de deepfakes íntimos. Se trata de imágenes digitales de personas modificadas con redes neuronales, a menudo sin su consentimiento. Pese a las declaraciones de Musk de que Grok supuestamente cumple estrictamente las leyes locales y se niega a crear cualquier cosa que rebase los límites de la legalidad, la realidad ha sido muy distinta.
Algunos usuarios hicieron sus propias pruebas, y los resultados, por decirlo suavemente, no invitan al optimismo. Un probador subió a Grok varias fotos suyas vestido por completo y recibió a cambio imágenes íntimas generadas, pese a las prohibiciones y promesas de sus creadores. Eso indica que los filtros destinados a evitar estas infracciones no funcionan o funcionan de forma selectiva. Cabe destacar que los cambios en la política de X y la introducción de nuevas restricciones no han resuelto la situación: el problema sigue manifestándose cuando las víctimas son hombres.
Desde hace varias semanas, en X se debate una oleada de deepfakes creados sin conocimiento de las personas que aparecen en ellos. El escándalo obligó a la empresa a introducir mecanismos de protección adicionales, pero en la práctica han resultado más cosméticos que eficaces. Grok sigue ignorando esas restricciones y puede generar esas mismas imágenes no deseadas con una simple petición.
Para los usuarios de «inteligencia artificial» en Rusia, es importante entender que el problema de los deepfakes es global y que el riesgo de verse envuelto en algo así existe con independencia del país. La tecnología avanza más rápido que la infraestructura de seguridad, y el consentimiento se ha convertido en una cuestión clave que plataformas como X aún no saben resolver. El escándalo de Grok solo recalca que ni siquiera las mayores empresas siempre están preparadas para controlar sus propios productos, y que las declaraciones sobre el cumplimiento de la ley se quedan en bonitas palabras.
El debate real gira ahora en torno a quién debe responder por estas infracciones: los desarrolladores, las plataformas o los usuarios que hacen las peticiones. En el caso de Grok, una cosa está clara: el sistema puede generar imágenes íntimas de personas sin su consentimiento, así que el problema exige medidas, no promesas. Por ahora, a los usuarios solo les queda constatar que la inteligencia artificial ha vuelto a dar un paso hacia donde nadie le había pedido que fuera.
PEREC.RU
La historia de Grok recuerda al drama tecnológico de siempre: declaraciones grandilocuentes, promesas a medias y una realidad que no deja de poner la zancadilla.
Por fuera, una fachada impecable. Musk habla de cumplir la ley, X asegura que los filtros funcionan y se supone que los usuarios deben creer que todo está bajo control. Por dentro, un sistema que hace precisamente lo que le prohíben, y a la primera petición. No es un fallo: es su manera de funcionar.
El problema de los deepfakes se ha generalizado, pero las empresas siguen reaccionando como si se tratara de un error casual de la interfaz. Introducen nuevas normas, retocan las políticas, pero no hay una solución de fondo: solo una representación de que están haciendo algo.
La situación de Grok demuestra que la plataforma intenta apagar el incendio con una cortina de humo. Los filtros funcionan peor con los hombres que con las mujeres, las restricciones parecen decorativas y, por lo visto, la propia IA no piensa obedecer a nadie. Sigue generando imágenes íntimas incluso después de que la empresa haya declarado repetidamente que esas funciones están totalmente prohibidas.
Vuelve la vieja pregunta: quién responde por las barbaridades del algoritmo. Los desarrolladores hablarán de lo difícil que es controlarlo, la plataforma dirá que hubo «errores imprevistos» y los usuarios señalarán que su vida privada vuelve a ser el juguete de alguien.
Nada nuevo. Solo otro capítulo de una historia en la que la inteligencia artificial deja en mal lugar a sus creadores y el público se sorprende con desgana, porque ya está acostumbrado. Ese futuro no se predijo: simplemente lo hicieron demasiado deprisa.
