Meta mostró anuncios con pornografía infantil generada por IA: nuevo escándalo en torno al CSAM
Hace poco se supo que en las plataformas de Meta —Facebook e Instagram— se mostraron anuncios con imágenes generadas por inteligencia artificial que representaban escenas de abuso sexual infantil, lo que en inglés se denomina CSAM (Child Sexual Abuse Material). Conviene subrayarlo: eran anuncios que habían superado la moderación y se habían publicado para un público amplio, incluidos menores.
Meta no tiene prisa por comentar públicamente los detalles del incidente. Sus representantes se limitaron a decir que, tras detectar esos anuncios, los «retiraron rápidamente» y bloquearon las cuentas que habían solicitado publicar anuncios de ese tipo. Meta también indicó que trabaja para reforzar el filtrado automático de contenidos mediante nuevas tecnologías, con el fin de detectar y prohibir antes la publicación de esas imágenes, sobre todo cuando se crean con IA, ya que los algoritmos suelen tener dificultades para identificar los materiales falsos.
La situación provocó una oleada de indignación no solo entre los usuarios, sino también entre los especialistas en seguridad digital, que llevan tiempo criticando a Meta por tardar demasiado en reaccionar ante contenidos problemáticos y por las deficiencias de sus filtros automáticos. Los expertos señalan que el desarrollo de la IA generativa ha hecho posible crear este tipo de imágenes, pero, a su juicio, las plataformas sociales no han mejorado a tiempo las tecnologías para detectar contenidos peligrosos.
Las organizaciones sociales que trabajan contra la explotación sexual infantil señalaron que incluso intentar monetizar esas imágenes mediante anuncios es extremadamente peligroso y puede agravar el problema de su difusión. En varios países ya se debate la introducción de requisitos más estrictos para los algoritmos de moderación de las redes sociales, y la propia Meta ha prometido «revisar sus prioridades en materia de seguridad de los usuarios». Sin embargo, representantes de varias organizaciones de derechos humanos están convencidos de que, sin cambios radicales en la forma de desarrollar y aplicar la IA, todas esas declaraciones se quedarán en palabras.
PEREC.RU
Meta vuelve a estar en el centro del escándalo, pero ¿qué hay de nuevo? Sus plataformas dejaron pasar anuncios con una auténtica aberración: pornografía infantil generada por IA que burló sin problemas sus filtros tan cacareados. La moderación se quedó ciega, los usuarios están horrorizados y los defensores de la infancia exigen más control. Meta se limitó a las disculpas de siempre y a vagas promesas de mejorar los filtros, como si se enfrentara a esta sorpresa por primera vez. Los algoritmos ya han perdido la carrera frente a los delincuentes que usan IA. Y la plataforma que prometía seguridad, de momento, se encoge de hombros y cita comunicados de prensa de plantilla. La pregunta se plantea sola: ¿quién recoge la basura si las redes sociales y sus estrategias automatizadas no dan abasto? Lo de siempre: promesas de cambio, pero en la práctica, otra vez un vertedero digital.
