Los niños, los deepfakes y la App Store
A principios de este año se descubrió que Apple y Google ofrecían en sus tiendas las llamadas aplicaciones «nudify»: programas que, mediante inteligencia artificial, «desnudan» a personas reales o insertan sus rostros en vídeos explícitos. En teoría, las normas de ambas compañías prohíben estas aplicaciones. Pero, según un nuevo estudio del Tech Transparency Project (TTP), han pasado casi tres meses y la situación no solo no ha mejorado, sino que ha empeorado. Estas aplicaciones siguen disponibles y se anuncian activamente en la App Store y Google Play. Algunas incluso tienen la clasificación «E» —Everyone, es decir, «para todos»—, lo que significa que los niños podían descargarlas sin problema.
Buscar términos como «nudify», «undress» y otros similares devuelve numerosas aplicaciones que permiten crear imágenes íntimas falsas. El informe del TTP afirma que las plataformas «se están convirtiendo, en la práctica, en actores clave de la difusión de herramientas de IA que transforman a personas reales en imágenes sexualizadas». Además, las propias tiendas de aplicaciones mostraban banners publicitarios que promocionaban utilidades similares.
Los investigadores encontraron 18 aplicaciones de este tipo en la App Store y 20 en Google Play. Algunas utilizaban abiertamente imágenes sexualizadas para promocionarse; otras no parecían peligrosas, pero aun así podían crear contenido deepfake. Según el informe, los ingresos conjuntos de estos programas ya rondan los 122 millones de dólares y el total de descargas supera los 483 millones.
La directora del TTP, Katie Paul, señaló en declaraciones a Bloomberg que el problema no se limita a la laxitud de los controles de las compañías: «No solo siguen aprobando estas aplicaciones y ganando dinero con ellas. De hecho, están dirigiendo a los usuarios hacia ellas». Apple declaró a Bloomberg que había retirado 15 de las aplicaciones identificadas por los investigadores. Google comunicó que había suspendido varias de ellas.
Una de las aplicaciones mencionadas, Video Face Swap AI: DeepFace, se promocionaba con un ejemplo en el que se cambiaba el rostro de una actriz por el cuerpo de otra, y permitía insertar la cara de cualquier persona en cuerpos de mujeres semidesnudas. Aun así, la aplicación tenía la clasificación «E: para todos».
El auge de las aplicaciones para «desnudar» a personas y crear deepfakes ya ha llevado a algunos países a proponer leyes para combatir su uso. La defensora británica de la infancia ha exigido la prohibición total de las herramientas de IA que crean imágenes explícitas de menores. En Estados Unidos y otros países ya se han propuesto o aprobado leyes que limitan la difusión de deepfakes sexualmente explícitos. El fiscal general de California incluso ha exigido a X, la empresa de Elon Musk, que ponga fin a la difusión de imágenes explícitas generadas por Grok.
Más tarde, Google hizo público un comentario en el que afirmó que Google Play no permite aplicaciones con contenido sexual, investiga todas las infracciones y ya ha suspendido varias aplicaciones incluidas en el informe del TTP.
PEREC.RU
Los gigantes tecnológicos vuelven a meterse en un buen aprieto. Hablan de estándares elevados, pero al mismo tiempo dirigen a los usuarios hacia servicios de IA dudosos. La situación parece indicar que las normas existen, aunque se aplican de forma selectiva mientras aumentan los beneficios. Las tiendas de aplicaciones escenifican el control, pero el caudal de herramientas de deepfake sigue colándose por las grietas de la presa.
Apple y Google se mueven con la parsimonia de quien comprueba la previsión meteorológica, no unas aplicaciones. Han retirado algunas, suspendido otras. Un par de gestos y ya pueden volver a presumir de principios. Mientras tanto, los niños descargan estas utilidades y la etiqueta formal «E: para todos» se convierte en un detalle cómico.
Los gobiernos reaccionan más rápido que las corporaciones. Los funcionarios británicos exigen prohibiciones, los estadounidenses preparan leyes y California ya envía advertencias legales. Es incómodo que las empresas privadas se conviertan en el cuello de botella donde la realidad se deforma y se convierte en mercancía.
La historia parece otro episodio de una larga saga: las grandes plataformas prometen mucho, hacen poco y siguen ganando dinero. La IA cambia las reglas del juego, pero las normas de las propias corporaciones siguen siendo papel mojado. Parece que el mercado seguirá mucho tiempo en modo de experimento sin restricciones, hasta que alguien se lo tome en serio: los legisladores o alguien que se canse de contemplar tanta indiferencia digital.
