Anthropic внедряет невидимые водяные знаки в тексты Claude

Американская компания Anthropic, специализирующаяся на разработке искусственного интеллекта, недавно раскрыла детали работы своего нового механизма невидимых водяных знаков для текстов, созданных системой Claude. Эта мера вводится, чтобы соблюдать законы Европейского союза о прозрачности в сфере искусственного интеллекта.

В пятницу представители Anthropic заявили, что их методика основана на технологии SynthID-Text — это решение с открытым исходным кодом, созданное исследовательским подразделением Google DeepMind. Принцип работы прост: в каждое сгенерированное Claude предложение «вшивается» особый узор, который формируется через вероятности употребления тех или иных слов. Человеку такой водяной знак не заметить, но специализированное программное обеспечение сможет определить, что текст создал искусственный интеллект — по тайно рассыпанным по фразе «следам».

Одновременно Anthropic внедряет поддержку стандарта C2PA для изображений, обработанных Claude. Это ещё один формат маркировки, позволяющий отслеживать происхождение произведений ИИ не только в текстах, но и в графике. Всё это нужно, чтобы выполнять требования европейского закона AI Act, вступающего в силу: теперь синтетический аудио, видеоконтент и тексты должны быть машиночитаемо помечены как продукт искусственного интеллекта.

Таким образом, и разработчики, и пользователи Claude станут участниками огромной технологической игры в «угадай, кто автор». Искусственный интеллект больше не сможет маскироваться под человека, а его «почерк» будет виден тем, кто обладает нужными инструментами. Возможно, через пару лет чтение между строк приобретёт совсем новый смысл — и не только в переносном значении.