El hackeo de las marcas de agua de Google

Un desarrollador de software con el alias Aloshdenny asegura haber reconstruido mediante ingeniería inversa el funcionamiento de SynthID, el sistema de marcas de agua ocultas de Google DeepMind destinado a identificar imágenes creadas con inteligencia artificial. Google afirma que la declaración es falsa, pero el interés por el tema no decae, ya que se trata de una tecnología que debería ayudar a distinguir las obras de IA de las fotografías e ilustraciones reales.

SynthID es una marca digital oculta integrada en una imagen de forma que el ojo humano no pueda verla. La marca debería conservarse incluso después de editar la imagen, cambiar su tamaño o aplicarle filtros. Google presenta la tecnología como un paso importante hacia la seguridad y la transparencia en la era de la IA generativa.

Aloshdenny publicó su proyecto para que cualquiera pudiera consultarlo y describió el proceso en detalle. Afirma que necesitó unas doscientas imágenes generadas con Gemini, métodos básicos de procesamiento de señales y, como señaló con ironía, «demasiado tiempo libre». Según él, no utilizó redes neuronales ni herramientas internas de la compañía.

La afirmación central del desarrollador es que pudo tanto eliminar las marcas de agua de imágenes creadas por IA como insertar manualmente marcas similares en obras ajenas. Si sus afirmaciones son ciertas, esto pone en duda la resistencia de la tecnología.

Google niega que se haya producido un hackeo de ese tipo e insiste en que SynthID funciona de forma fiable y que el método presentado no reproduce el mecanismo real del sistema. La empresa subraya que las marcas están protegidas a un nivel que no se puede sortear con un simple procesamiento de señales.

Sin embargo, la declaración pública del desarrollador y la publicación abierta de su herramienta plantean preguntas importantes. Ahora que las imágenes de IA inundan Internet, estas tecnologías son fundamentales para los medios de comunicación, los artistas, los usuarios y los reguladores. De su resistencia depende que la gente pueda distinguir una falsificación de un original.

Por ahora, Google mantiene su versión mientras el trabajo de Aloshdenny suscita debate en la comunidad técnica. Una cosa está clara: la pugna entre quienes crean tecnologías de protección y quienes intentan esquivarlas continúa, y es poco probable que termine pronto.