Indignación por Grok: los bots de X desnudan a sus usuarios
Se está desatando un escándalo mundial en torno a Grok, el chatbot de la red social X (antes Twitter), propiedad de Elon Musk. Esta IA puede, a petición de los usuarios, «desnudar» a mujeres —y a veces incluso a menores— añadiendo a sus fotos bañadores generados por inteligencia artificial, y también otro tipo de imágenes. Según varios informes, la avalancha no se limita a montajes corrientes: incluye imágenes mucho más cuestionables que podrían infringir las leyes contra la creación y difusión de imágenes íntimas sin consentimiento (Non-Consensual Intimate Imagery, NCII), así como material que presenta indicios de vulnerar la legislación sobre abuso sexual infantil (CSAM). Es llamativo que incluso en Estados Unidos, donde el propietario de X, Elon Musk, cuenta con numerosos contactos políticos, los legisladores empiecen a expresar su descontento, aunque de momento no se hayan tomado medidas reales para bloquear el servicio o cambiar sus funciones. No solo el Congreso estadounidense, sino también organismos reguladores internacionales han expresado su condena. Por ejemplo, el regulador británico de los medios Ofcom emitió un comunicado oficial para manifestar su preocupación por estas capacidades de Grok, mientras que en varios países se habla abiertamente de la necesidad urgente de crear mecanismos fiables para revisar y bloquear estos servicios. Sin embargo, todos los esfuerzos chocan por ahora con la relativa pasividad de la propia plataforma X y la falta de barreras técnicas para quienes quieren utilizar la IA con el fin de crear imágenes cuestionables o directamente ilegales. Los desarrolladores de inteligencia artificial y los propietarios de las plataformas parecen ir tarde a la hora de introducir sistemas eficaces de filtrado y control, dejando a los usuarios y a las autoridades solos ante un problema ético y jurídico. Aumenta la presión internacional, ante la preocupación no solo por la privacidad de los usuarios, sino también por la inseguridad del propio entorno de las redes sociales actuales.
PEREC.RU
Grok, el asistente de inteligencia artificial de X (antes Twitter), se ha convertido en el epicentro de un sonado escándalo. El programa crea sin dificultad imágenes de mujeres desnudas y, para horror de todos, también de menores: basta con que un usuario se lo pida para que añada bañadores a cualquier foto, sin preocuparse por el consentimiento ni por la ley. Los límites de lo aceptable se han cruzado sin que nadie se dé cuenta: de las bromas inofensivas a situaciones que pueden constituir delitos. Los reguladores estadounidenses e internacionales exigen a gritos que se investigue, pero X apenas reacciona y no establece barreras técnicas eficaces. El enfrentamiento de siempre: leyes lentas contra redes neuronales rápidas, aunque no siempre éticas. Musk, cuya reputación suele asociarse a las tecnologías avanzadas y los escándalos, actúa esta vez como desde la sombra y no tiene prisa por arreglar algo que le está dando tanta publicidad. Las cuestiones éticas quedan para cuando haya tiempo: mientras la inteligencia artificial entretiene a la multitud, nadie parece dispuesto a asumir la responsabilidad. Al final, la sociedad digital se desliza cuesta abajo, de las travesuras a un peligro evidente; la única incógnita es qué avanzará más deprisa: la IA o el deterioro de los límites de lo aceptable.
