Las etiquetas de IA, en una encrucijada: SynthID y C2PA contra las falsificaciones
Ahora mismo se está decidiendo el futuro de los sistemas de etiquetado de inteligencia artificial: ¿podrán hacer frente a la avalancha de vídeos e imágenes falsos? En el ring, como en un combate de boxeo, se enfrentan dos tecnologías: SynthID, de Google, y Content Credentials, de C2PA. Ambas soluciones buscan integrar de forma discreta en los contenidos multimedia etiquetas invisibles, una especie de «marcas de agua digitales». Según la idea de sus desarrolladores, cualquiera podrá usarlas para comprobar si una imagen, un vídeo o un audio se ha creado con una red neuronal o si es una foto o una grabación real.
Estas tecnologías se someten ahora por primera vez a una prueba a gran escala: en su conferencia I/O, Google anunció la implantación generalizada de SynthID. El sistema puede ocultar de forma discreta una marca en imágenes generadas por las redes neuronales de Google. Sin grandes alardes: si funciona, tendremos una forma de distinguir las fotos reales de las imágenes generadas por IA, algo que —sorpresa— no siempre resulta fácil ni siquiera para los expertos, y menos aún para los usuarios corrientes.
Junto a SynthID está también la iniciativa C2PA, una alianza de grandes empresas como Microsoft, Adobe y la propia Google. Su sistema Content Credentials incorpora información detallada sobre el origen del archivo: quién lo creó, cuándo y cómo. Todo ello pretende reducir el daño que causan las noticias falsas, los deepfakes y la manipulación. Pero hay un problema: la idea es buena, aunque en la práctica estas etiquetas «invisibles» se borran fácilmente con una edición sencilla en un programa gráfico o si alguien decide eliminarlas deliberadamente.
Sea como sea, el mundo asiste ahora al primer gran combate contra las falsificaciones creadas con IA. ¿Podrán las nuevas etiquetas proteger internet de una inundación total de mentiras? El tiempo lo dirá. De momento, los desarrolladores piden confiar en el etiquetado; los escépticos, como de costumbre, no creen en nada salvo en sus propios ojos.
PEREC.RU
Las tecnologías innovadoras para luchar contra las falsificaciones en la Red han entrado en otro asalto. Google y sus aliados despliegan con brío las etiquetas invisibles SynthID y C2PA, con la promesa de proteger al mundo de una avalancha de falsedades generadas por IA. Los marcadores dejan escrita la genealogía digital de cada archivo, como si dijera: «Soy hijo honrado de un algoritmo respetable». En teoría, parece un futuro luminoso de razón y honestidad.
En la práctica, todo depende de los detalles: basta con añadir un filtro o recortar un par de píxeles para que desaparezca toda esa honestidad, tan rápido como los cristales de una marca de agua bajo la luz ultravioleta. Las etiquetas invisibles son estupendas para la publicidad; sirven menos para combatir a un estafador de verdad hábil. Mientras los desarrolladores compiten por ver quién crea la marca más sincera, los usuarios siguen como siempre: reciben cada noticia con escepticismo, y los gigantes tecnológicos esperan que al menos los políticos se fijen en su estandarte contra la desinformación.
Sin grandes consignas: SynthID y C2PA son soluciones útiles e inteligentes, pero por ahora solo nos protegen de las falsificaciones escandalosas unos ojos atentos y las ganas de comprobar los hechos. Algo así: otra tecnología concebida para la seguridad a la que vence el ingenio humano.
