La etiqueta no se pega a la realidad

En los últimos años, Internet se ha convertido en un circo de falsificaciones fotorrealistas, donde distinguir la verdad de la IA generativa resulta más difícil que entender por qué los organismos públicos publican imágenes falsas con el orgullo de un escolar que acaba de descubrir un filtro de Instagram. La idea principal es crear un sistema de etiquetas que permita identificar fotos y vídeos en el momento mismo de su creación: haces una foto y los metadatos incorporan información sobre cómo se ha editado, quién la ha creado y qué ocurrió exactamente. El estándar líder es C2PA, impulsado por Adobe y respaldado por grandes empresas como Microsoft, Google, Meta y OpenAI.
Pero la realidad ha resultado más dura que las presentaciones. C2PA se concibió como un conjunto ampliado de metadatos para fotógrafos, no como un detector global de IA. Se puede eliminar con una captura de pantalla, volviendo a subir el archivo o simplemente mediante un procesamiento chapucero en la plataforma. Incluso OpenAI reconoce que quitar la etiqueta es facilísimo. Y las plataformas que deberían leer esas etiquetas o las pierden o las ignoran. TikTok, Instagram y YouTube prometen de vez en cuando que pronto todo funcionará, pero, por ahora, las etiquetas desaparecen antes de que los vídeos consigan sus primeras visualizaciones.
La situación tampoco es muy alentadora por parte de los fabricantes de contenido. Sony, Nikon y otros están incorporando C2PA parcialmente a sus cámaras, pero actualizar los modelos antiguos es complicado. Apple se mantiene al margen, como si observara un incendio tras un cristal y se preguntara si merece la pena llamar a los bomberos. Y sin la participación plena de todos los fabricantes, la iniciativa apenas tiene sentido: si solo algunos dispositivos autentican las fotos, la confianza seguirá sin aparecer.
Las plataformas que podrían actuar como «intermediarias de verificación», como Shutterstock, no tienen prisa por implantar un mecanismo de etiquetado completo. Y el intento de Meta de hace unos años de añadir la etiqueta «hecho con IA» provocó una rebelión entre los creadores de contenido: ahora la IA está integrada hasta en cualquier botón de corrección de color, así que la etiqueta parecía una acusación pública.
Al final, las redes sociales reconocen la derrota. El director de Instagram, Adam Mosseri, dice sin rodeos que ahora hay que desconfiar por defecto de cualquier foto o vídeo. Es, en la práctica, una capitulación. Las sociedades acostumbradas a confiar en las imágenes como pruebas entran en una época en la que incluso las tomas reales pueden declararse falsas por simple capricho. Mientras tanto, los gobiernos publican imágenes retocadas con IA y convierten la cuestión de la confianza en un arma.
Las plataformas no están preparadas para estos desafíos. Sus motivos son sencillos: la IA genera beneficios, mientras que las etiquetas socavan la confianza y reducen el valor del contenido. Los usuarios, por su parte, se ahogan en «fideos informativos», de Pinterest a YouTube. Y aunque la demanda de un filtro para «quitar la IA» es enorme, ponerlo en práctica resulta casi imposible: miles de generadores de contenido de terceros jamás cumplirán los estándares.
El resultado es desalentador: C2PA no será una solución universal. Quizá intervengan los reguladores y los gobiernos obliguen por primera vez a las empresas a responder por la veracidad de los materiales que difunden. Pero, hasta entonces, vivimos en un mundo donde la realidad es opcional y una imagen no es más que la opinión de un algoritmo.