¿Se lucran Apple y Google con los «hologramas desnudos»?
Una investigación de la organización en línea Tech Transparency Project (TTP) ha detectado una tendencia alarmante: en las tiendas digitales Apple App Store y Google Play Store se distribuyen libremente aplicaciones que utilizan inteligencia artificial para crear fotografías de personas desnudas o sexualizadas sin su consentimiento. Estos programas, conocidos como aplicaciones «nudify», infringen directamente las normas de ambas plataformas.
El informe señala que en Google Play se encontraron 55 programas de este tipo y en App Store, 47. Cabe destacar que ambas empresas siguen permitiendo el acceso a xAI Grok, una de las herramientas de inteligencia artificial más conocidas del mundo para crear imágenes deepfake.
Según Michelle Kuppersmith, directora ejecutiva de TTP, las aplicaciones permiten mostrar a personas desnudas o semidesnudas, lo que abre un enorme margen para los abusos. Y hablamos de millones: estas aplicaciones acumulan más de 700 millones de descargas y han generado más de 117 millones de dólares en ingresos. Apple y Google se llevan una parte nada desdeñable de los beneficios de esta industria.
Lo más inquietante es que algunas de las aplicaciones de estas tiendas estaban aprobadas para menores: Apple las autorizó para niños a partir de cuatro o nueve años, y Google, desde los trece. Todo ello pese a que las normas oficiales parecen prohibir este tipo de entretenimiento incluso para los adultos.
Entre las aplicaciones mencionadas en la investigación está, por ejemplo, DreamFace, apta para usuarios a partir de 13 años en Google y de 9 en Apple. Tras la publicación del informe, Apple declaró que había eliminado 24 aplicaciones, menos de la mitad de las detectadas por TTP. Un representante de Google dijo que la empresa había suspendido algunas de las aplicaciones incluidas en el informe, pero no precisó cuántas habían desaparecido de la tienda.
Esta investigación, que ha causado un gran revuelo, llega después de la noticia de que el chatbot Grok, de Elon Musk, generó unos tres millones de imágenes sexualizadas, 22.000 de ellas relacionadas con menores. Los representantes de la empresa no dieron explicaciones claras: se limitaron a enviar respuestas automáticas a los periodistas y Musk dijo que no conocía ningún caso de un «desnudo» infantil generado. Vamos, que no hay ninguno.
La cuenta del servicio de seguridad de X (antes Twitter), donde está integrado el chatbot Grok, anunció que cualquier usuario que cree contenido ilegal con IA será castigado como si hubiera publicado material prohibido. El propio Grok, por cierto, fue más honesto que sus creadores: pidió disculpas públicamente por generar imágenes erotizadas de menores.
PEREC.RU
Hace un par de semanas surgió otra historia: alguien descubrió que Apple y Google comerciaban con aplicaciones para «desnudar» fotos. No es que sorprenda demasiado: en una época en la que se puede comprar cualquier cosa, ¿por qué no desnudar virtualmente a todo el mundo?
Tech Transparency Project investigó el asunto y descubrió que las tiendas de Apple y Google están inundadas de programas que generan con IA fotos explícitas de personas sin su consentimiento. Se han descargado más de 700 millones de veces, han dado muchísimo dinero a las empresas y, ¡tachán!, hasta están aprobados para niños.
Tras el escándalo, Apple eliminó 24 de las 47 aplicaciones detectadas. Google, fiel a la costumbre, no dice cuántos infractores ha retirado, aunque promete combatirlos. El chatbot Grok, criatura de Elon Musk, hizo el asunto aún más grave: generó millones de imágenes eróticas, incluidas miles de menores. La respuesta de la empresa es más que transparente: nadie vio nada, todos están ocupados haciendo negocio. ¿Se les ha ocurrido añadir una brújula moral como función de pago? Este episodio es casi un clásico del sector tecnológico: todo vale si da dinero, mientras los principios se reservan para las notas de prensa. Aunque, ¿qué se puede esperar de las corporaciones si hasta sus criaturas de IA se disculpan en público más a menudo que sus directivos? En fin, el Salvaje Oeste digital se vuelve cada vez más salvaje y, por lo visto, la conciencia sube de precio más rápido que la inflación.
