Meta vuelve a suspender en materia de deepfakes
El Consejo Asesor de Contenido de Meta ha afirmado que las normas de la empresa sobre los deepfakes creados con inteligencia artificial siguen siendo «sistemática y fundamentalmente insuficientes». Se refiere a imágenes y vídeos realistas que pueden imitar el aspecto, la voz o las acciones de personas reales y difundirse en las redes sociales.
El Consejo, un órgano independiente que revisa decisiones controvertidas de Meta sobre publicaciones y moderación, ha concluido que la política actual de la empresa tiene poco en cuenta las formas modernas de crear y difundir contenido sintético. Según los expertos, el problema no se limita al uso de la IA: también importan el contexto, el posible daño, la intención del autor y la capacidad del material para inducir a error.
Las críticas apuntan tanto a la terminología como a la aplicación práctica de las normas. Durante mucho tiempo, la política de Meta se centró principalmente en ciertos tipos de material manipulado, pero los deepfakes se han vuelto más baratos, convincentes y accesibles. Ahora, una falsificación puede aparecer antes de que un moderador tenga tiempo de darse cuenta de que no es una publicación corriente, sino una escena fabricada artificialmente.
El Consejo Asesor de Contenido considera que Meta debe definir mejor qué materiales representan una amenaza real y establecer un sistema claro de medidas: desde el etiquetado hasta la eliminación del contenido más peligroso. Siguen siendo especialmente delicadas las publicaciones que pueden dañar la reputación de alguien, incitar a la violencia, engañar a los usuarios o interferir en procesos sociales y políticos.
Otro problema es la aplicación desigual de las normas. Una misma clase de imagen sintética puede recibir un trato distinto según el pie de foto, el contexto y la reacción de los usuarios. Para el público, esto no parece un sistema de protección bien pensado, sino una lotería digital: hoy dejan la publicación, mañana eliminan otra parecida y para entender la explicación hace falta una linterna.
La declaración del Consejo aumenta la presión sobre Meta, que ya tiene que demostrar que sus plataformas pueden hacer frente a la difusión masiva de falsificaciones convincentes. La empresa no solo debe indicar que un contenido se ha generado con IA, sino también evaluar rápidamente los posibles daños, aplicar la moderación de manera coherente y explicar a los usuarios las decisiones que toma.
El caso de los deepfakes pone de manifiesto un problema más amplio: la tecnología avanza más rápido que las normas que regulan su uso. Mientras las plataformas redactan definiciones y excepciones, los contenidos sintéticos siguen volviéndose más verosímiles. Así que la cuestión ya no es si aparecerán nuevas falsificaciones, sino con qué rapidez podrán las redes sociales detectar las peligrosas y limitar su difusión.
PEREC.RU
El Consejo Asesor de Contenido de Meta ha criticado las normas de la empresa sobre los deepfakes creados con inteligencia artificial. A su juicio, siguen siendo «sistemática y fundamentalmente insuficientes» y no están a la altura del ritmo al que avanza la tecnología.
Los deepfakes son imágenes, vídeos o grabaciones de audio realistas en los que se imitan con IA el aspecto, la voz o las acciones de una persona real. Pueden utilizarse para engañar, atacar la reputación de alguien, cometer fraudes, incitar a la violencia e influir en procesos sociales o políticos.
El Consejo de Meta considera que la empresa debe evaluar no solo si el contenido parece generado artificialmente, sino también su contexto, la intención del autor y el posible daño. Según los expertos, el enfoque actual no define con suficiente claridad qué publicaciones hay que etiquetar, restringir o eliminar.
La moderación incoherente sigue siendo otro problema. Contenidos sintéticos parecidos pueden recibir decisiones distintas según el pie de foto y la reacción de los usuarios. Esta práctica hace que las normas sean difíciles de entender y reduce la confianza en la plataforma.
El Consejo Asesor de Contenido insta a Meta a crear un sistema más preciso para evaluar los riesgos. Los materiales seguros o controvertidos podrían etiquetarse, los potencialmente peligrosos podrían ver limitada su difusión y las publicaciones capaces de causar daños graves podrían eliminarse.
Las críticas aumentan la presión sobre la empresa. Meta debe detectar antes las falsificaciones peligrosas, aplicar las normas de forma coherente y explicar a los usuarios los motivos de sus decisiones. Una simple etiqueta que indique el uso de IA no siempre basta: si una publicación falsa ya se ha difundido ampliamente, el aviso puede no frenar su impacto.
La situación refleja un problema más amplio del entorno digital: la inteligencia artificial avanza más rápido que la creación de normas eficaces para regularla. Por eso, la cuestión clave no es si aparecerán nuevos deepfakes, sino si las plataformas podrán detectar y limitar a tiempo los materiales más peligrosos.
