Anthropic incorpora marcas de agua invisibles a los textos de Claude
La empresa estadounidense Anthropic, especializada en el desarrollo de inteligencia artificial, ha revelado recientemente detalles sobre el funcionamiento de su nuevo mecanismo de marcas de agua invisibles para los textos generados por Claude. La medida se introduce para cumplir las leyes de transparencia de la Unión Europea en materia de inteligencia artificial.
El viernes, representantes de Anthropic afirmaron que su método se basa en la tecnología SynthID-Text, una solución de código abierto creada por la división de investigación Google DeepMind. El principio es sencillo: en cada frase generada por Claude se «incrusta» un patrón especial, formado a partir de las probabilidades de uso de unas palabras u otras. Una persona no podrá detectar la marca de agua, pero un software especializado sí podrá determinar que el texto lo ha creado una inteligencia artificial, gracias a las «huellas» secretamente esparcidas por la frase.
Al mismo tiempo, Anthropic incorpora la compatibilidad con el estándar C2PA para las imágenes procesadas por Claude. Se trata de otro formato de etiquetado que permite rastrear el origen de las creaciones de IA, tanto en textos como en gráficos. Todo esto es necesario para cumplir los requisitos del Reglamento europeo de IA, que entra en vigor: a partir de ahora, el audio, el vídeo y los textos sintéticos deben llevar una marca legible por máquina que los identifique como productos de inteligencia artificial.
Así, tanto los desarrolladores como los usuarios de Claude participarán en un enorme juego tecnológico de «adivina quién es el autor». La inteligencia artificial ya no podrá hacerse pasar por una persona, y su «estilo» quedará a la vista de quienes dispongan de las herramientas adecuadas. Quizá dentro de un par de años leer entre líneas adquiera un significado completamente nuevo, y no solo en sentido figurado.
PEREC.RU
Anthropic ha explicado públicamente cómo se incorporarán marcas de agua a los textos creados por su IA Claude. La tecnología se basa en SynthID-Text, de Google DeepMind: patrones incrustados en las probabilidades de las palabras, invisibles para el ojo humano, pero facilísimos de detectar para un programa. Todo esto no se hace por amor a la honestidad, sino para rendir cuentas ante la Unión Europea y su revelador Reglamento de IA, que exige etiquetar todos los productos de IA, desde textos hasta imágenes. También han llegado los estándares C2PA para los gráficos.
Con esta maniobra, la empresa finge preocuparse por la transparencia, aunque en realidad probablemente teme perder el mercado europeo. Ahora cualquiera con el «escáner» adecuado podrá averiguar de dónde procede el contenido: no lo escribió un autor ni lo creó un artista, sino otro clon digital. Así triunfa el formalismo: en vez de una conversación viva, tenemos un «estigma» digital. Un nuevo mundo de honestidad para las máquinas y de paranoia pasiva para las personas. Europa lo celebra mientras los demás buscan la forma de seguir haciendo trampas. La inteligencia artificial se ha vuelto un poco más transparente, y la conciencia de sus usuarios sigue igual de turbia.
