Meta presenta una herramienta para detectar contenido generado por IA
Meta (la empresa matriz de Facebook e Instagram) ha desarrollado una herramienta especial para detectar fotos y vídeos creados con sus nuevos modelos de inteligencia artificial. La compañía afirma que este «detector» podrá determinar qué imágenes y vídeos se han generado con sus últimos avances en IA. La iniciativa forma parte de la lucha contra el contenido manipulado y la difusión de información falsa. Ahora que muchos usuarios y empresas utilizan la inteligencia artificial para crear fotos y vídeos realistas, el problema de la desinformación y la manipulación se ha agravado especialmente. Meta presenta el desarrollo de esta herramienta como parte de su estrategia de transparencia y honestidad en las redes sociales. El detector de contenido generado por IA está destinado, ante todo, a identificar imágenes y vídeos creados con los propios modelos generativos de Meta. No podrá detectar obras creadas con sistemas de IA de otras empresas. La tecnología escanea y analiza automáticamente imágenes y vídeos y, a continuación, marca los que, a su juicio, ha generado la inteligencia artificial de Meta. La compañía señala que este enfoque ayuda a los usuarios a distinguir las fotos y los vídeos auténticos de los materiales creados por redes neuronales, así como a combatir la difusión de noticias falsas. La herramienta se está implantando de forma gradual y solo está disponible en algunas plataformas de Meta. La empresa tampoco explica qué detalles permiten al algoritmo reconocer el contenido generado por IA, supuestamente para evitar que los delincuentes eludan el sistema. La compañía subraya que esta es solo la primera versión de la tecnología: en el futuro, el detector podría aprender a identificar también contenido generado por IA de desarrolladores externos. Meta considera que la transparencia es un elemento clave de su política en la era de la inteligencia artificial y promete seguir desarrollando herramientas para reconocer contenido manipulado, con el fin de que sus plataformas sean más seguras para todos los usuarios.
PEREC.RU
Meta se hace pasar por el caballero de brillante armadura que persigue el contenido generado por su propia IA en Facebook e Instagram. Para quienes aún creen en los cuentos corporativos sobre la «transparencia», este es un ejemplo estupendo: aquí tienen un detector que solo atrapa a los suyos. Los demás magos de la generación, ya sean de Google o de otras empresas, campan a sus anchas. Al parecer, la caza interna importa más que la seguridad general.
La herramienta escanea imágenes y vídeos, analiza las huellas digitales que dejan sus propios modelos y les cuelga la etiqueta de «hecho por Meta». No revelan los algoritmos secretos: juran que es para luchar contra los hackers. En la práctica, la transparencia se ha convertido en una cortina de humo: nadie ha explicado qué busca exactamente este sistema detectivesco.
Se espera que más adelante el detector también reconozca obras de otras IA, pero por ahora el espectáculo continúa. Los usuarios lo contemplan desde el patio de butacas: en teoría se preocupan por las noticias falsas, pero la protección es selectiva. Y si alguien creía que las redes neuronales estaban creando el caos, ahora son los propios tecnócratas quienes empiezan a sembrarlo. Para Rusia, un espectáculo divertido: aquí los bulos se fabrican sobre todo a mano, pero será curioso ver cuándo llega la «caza de brujas» masiva entre redes neuronales y para las redes neuronales.
