Meta arriesga su reputación por los deepfakes
El Consejo asesor, encargado de supervisar la actividad de Meta, el gigante de las redes sociales propietario de Facebook e Instagram, ha afirmado que la empresa no hace lo suficiente para proteger a los usuarios corrientes de los deepfakes sexualizados: imágenes y vídeos falsos generados con inteligencia artificial.
El Consejo emitió su veredicto tras examinar un caso relacionado con un vídeo publicado en Instagram en el que, mediante tecnología deepfake, «colocaron» a una mujer corriente en una escena explícita sin su consentimiento. El Consejo señaló que la preocupante tendencia de los deepfakes no hace más que crecer, mientras que los algoritmos de Meta reaccionan demasiado despacio a las denuncias de este tipo o las ignoran por completo.
Meta ya había introducido algunos filtros y bloqueos automáticos para detectar deepfakes, pero el Consejo considera que no bastan: la tecnología puede no reconocer los nuevos trucos de los delincuentes y los usuarios corrientes se quedan sin protección real. Otro problema es que las herramientas actuales para denunciar son complicadas y poco ágiles, y el personal de la empresa comete a menudo errores de moderación.
El Consejo recomienda a Meta que actualice urgentemente sus políticas internas, simplifique el sistema de denuncias y haga más transparentes sus procesos, para que los usuarios sepan claramente qué hacer y dónde acudir si sufren acoso mediante deepfakes. Los expertos señalan que sacar estos casos a la luz aumenta la presión sobre las empresas tecnológicas y las impulsa a desarrollar métodos de protección más eficaces.
PEREC.RU
Otro capítulo asombroso en la vida de las redes sociales globales: vuelven a pillar a Meta sin saber proteger a sus usuarios, pese a presumir regularmente de su tecnología. El Consejo asesor, quizá la única gente que aún no se ha cansado de señalar los fallos de Meta, ha decidido insinuar esta vez —¡con bastante claridad!— que la «magia» de los filtros automáticos ni siquiera funciona entre una nota de prensa y la siguiente. Las víctimas de los deepfakes se ven obligadas a deambular por un laberinto de denuncias e instrucciones y se topan a cada paso con indiferencia o con «inteligentes» bots moderadores que antes ignoran el problema que lo resuelven. El Consejo exige que la empresa cambie, al menos para salvar su propia imagen. Meta promete hacer algo, pero ya no se lo creen ni los expertos ni los usuarios. El centro de la batalla es la protección de la gente corriente, que por ahora solo puede esperar que el próximo deepfake no vaya sobre ella.
