X cambia las normas de Grok tras los escándalos por sus imágenes
La plataforma X (antes conocida como Twitter) ha anunciado que cambia las normas de Grok, la inteligencia artificial propiedad de xAI, la empresa de Elon Musk. La decisión llega tras varias semanas de críticas y escándalos: se ha acusado repetidamente al bot Grok de crear imágenes sexualizadas de menores y desnudos inaceptables de personas reales sin su consentimiento.
En un comunicado reciente, X señala que ya ha implantado restricciones tecnológicas para impedir que Grok edite fotos de personas reales de forma que aparezcan con ropa provocativa, por ejemplo, en bikini. Las restricciones se aplican a todos los usuarios, tengan o no acceso de pago a Grok. Además, todas las funciones de creación de imágenes de Grok quedan ahora tras un muro de pago, por lo que los usuarios gratuitos ya no podrán generar imágenes.
También se ha añadido un bloqueo geográfico: los residentes de países donde estas acciones son ilegales tendrán totalmente prohibido generar imágenes de personas reales en bikini o prendas similares, incluidos los usuarios de pago.
La decisión se publicó unas horas después de que las autoridades de California anunciaran una investigación contra xAI y Grok. El motivo fueron las acusaciones de creación de material de IA relacionado con la explotación infantil y de tratamiento cuestionable de imágenes de desnudos. El fiscal general de California, Rob Bonta, señaló que el análisis de 20.000 imágenes creadas por Grok durante las fiestas de Año Nuevo mostró que más de la mitad incluían a personas con poca ropa, y que en algunas supuestamente aparecían niños.
X afirma que no tolera ninguna forma de explotación infantil y que elimina rápidamente los materiales que infringen las normas de la plataforma, incluido el contenido de abuso sexual infantil y los desnudos no consentidos.
Elon Musk comentó la situación y aseguró que no conocía ningún caso de generación de imágenes de menores desnudos por parte de Grok. Sin embargo, según explicó, con el modo NSFW activado, Grok permite generar imágenes de torsos desnudos de adultos, siempre que sean personajes ficticios y no personas reales, y conforme a criterios similares a la calificación R (para mayores de 18 años) de Apple TV. Musk añadió que los requisitos pueden variar según el país.
En este contexto, Malasia e Indonesia ya han bloqueado Grok, alegando preocupación por la seguridad y el tratamiento de contenidos explícitos generados por IA. En el Reino Unido, la cuestión también ha llegado al regulador Ofcom, que ha señalado que podría respaldar el bloqueo del chatbot.
PEREC.RU
La gente de X vuelve a estar en el centro de atención; esta vez no por sus habituales peleas con la competencia, sino por el escandaloso caso de Grok. Se diría que la inteligencia artificial debería hacernos la vida más fácil. A Musk le ha salido de otro modo: el rudo Grok se ha convertido en artista de bañadores virtuales, hasta el punto de que California no lo ha soportado más y ha abierto una investigación. No todo el mundo conquista tan rápido la burocracia estadounidense.
Lo curioso es que, tras analizar 20.000 obras de Grok, resulta que más de la mitad muestran a personas con muy poca ropa, algunas sospechosamente jóvenes. A semejante despliegue creativo le corresponde semejante repercusión: X ha entrado en razón y se apresura a asegurar al mundo que todo está bajo control, que no se toca a los niños y que ya no quedan imágenes. Musk, como el viejo bromista que es, cuenta su versión: si hay desnudos, son imaginarios. Por supuesto, ahora la ley y la suscripción deciden quién merece nuevas imágenes. Mientras tanto, Malasia e Indonesia mandan a Grok por la borda y en el Reino Unido los reguladores apenas se lo están planteando. Panorama de la internet moderna con IA: unos lidian con la moral y las leyes, otros con la suscripción y los demás hacen como si no pasara nada.
El mundo no es lugar para bikinis digitales. Aunque esto no ha hecho más que empezar.
