Grok limita la creación de deepfakes explícitos de usuarios de X

La inteligencia artificial Grok, desarrollada por la empresa xAI de Elon Musk para la plataforma X (antes Twitter), ha introducido nuevas restricciones: ahora los usuarios no podrán crear imágenes de personas reales con ropa provocativa, como bikinis. Es un intento de frenar la avalancha de deepfakes sexualizados, sobre todo después de que las autoridades de California y Reino Unido prestaran atención al problema.

El anuncio de las restricciones apareció el miércoles por la noche en la cuenta oficial de seguridad de X. Allí se precisa que la medida se aplica absolutamente a todo el mundo, incluidos los suscriptores de pago. El equipo de X también subraya su tolerancia cero con el material de abuso sexual infantil (CSAM) y con las imágenes pornográficas de personas sin su consentimiento. Por cierto, las funciones de creación y edición de imágenes de Grok ahora solo están disponibles para suscriptores.

También se ha incorporado una nueva función: en determinadas jurisdicciones donde está prohibido crear imágenes de personas reales en bikini o ropa interior, se ha establecido un «geobloqueo»; en esos países, sencillamente no es posible crear ese contenido a través de Grok.

Todas estas medidas responden a la oleada de críticas de 2024. Se difundieron masivamente deepfakes de famosos y menores: la IA Grok y sus usuarios proliferaron imágenes con connotaciones sexuales, lo que atrajo la atención de los reguladores. El fiscal general de California, Rob Bonta, exigió públicamente que se pusiera orden de inmediato, amenazó con recurrir a todas las herramientas legales disponibles y recordó que este tipo de contenido se utiliza para acosar a mujeres y niños en internet.

Mientras Grok limitaba públicamente el «entretenimiento» de sus usuarios, el propio Elon Musk parecía «animarles» a intentar eludir el sistema de creación de imágenes, precisamente el mismo día en que el equipo de X anunciaba otra tanda de normas.

Reino Unido tampoco se queda atrás: el primer ministro, Keir Starmer, calificó las acciones de Grok de «indignantes» y «repugnantes» y encargó al regulador Ofcom, con el respaldo del Gobierno, que «pusiera en vereda» tanto a X como a xAI. Starmer incluso amenazó a Musk con que «si X no puede controlar a Grok, lo hará el Estado». En esos mismos días, Indonesia y Malasia bloquearon la IA Grok en sus territorios.

Los políticos estadounidenses tampoco se quedaron al margen: tres demócratas pidieron a Apple que retirara X y Grok de su tienda de aplicaciones. Sin embargo, el miércoles por la noche ambas aplicaciones seguían disponibles.

Estos cambios tan drásticos en la política dejan claro que la dirección de X ha comprendido que la empresa ya no puede escudarse en la Sección 230 de la Ley de Decencia en las Comunicaciones, que durante 30 años protegió a las plataformas de las demandas por contenidos de los usuarios. Si el contenido no lo crea un usuario, sino la propia IA, la protección jurídica hace aguas.