Anthropic водит цифровых собак: маркировка текста от Claude для ЕС
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Anthropic, американская компания, разрабатывающая искусственный интеллект и известная моделью Claude, внедряет новую технологию маркировки текстов, которые генерируются их ИИ. Всё ради того, чтобы соответствовать законодательству Европейского союза — в ЕС, оказывается, следят не только за огурцами, но и за цифровыми болтунами.
Теперь тексты, которые создает Claude, укомплектованы невидимыми «водяными знаками» — техническими метками, позволяющими отличить творения искусственного интеллекта от проблесков человеческой мысли. Это не наклейка на банане и даже не надпись мелким шрифтом внизу страницы, а более хитрая цифровая метка внутри самого текста. Зачем? Чтобы читатель, а главное — регуляторы, всегда могли найти концы: есть ли за этим набором слов живой человек или искусственный трудяга.
Внедрение маркировки — реакция на принятый Евросоюзом Акт об искусственном интеллекте (AI Act). Этот документ требует, чтобы компании, работающие с генеративным искусственным интеллектом, указывали, что текст, изображение или голосовой фрагмент был создан машиной. Большие вопросы этикетки волнуют власти: внезапно человек читает трогательное короткое эссе — а его сочинил алгоритм, не отрываясь от розеток.
В Anthropic подчеркивают: отметки невидимые для глаза, но их можно распознать специальными инструментами. Компания утверждает, что технология стойкая к попыткам удаления: даже если часть текста поменять, водяные знаки сохраняются. Это особенно важно — для борьбы с «перепаковщиками», которые любят копировать и редактировать чужие AI-генерации.
Любопытно, что сама Anthropic не собиралась делиться всеми деталями новой системы. Дело в безопасности: если алгоритм знать досконально, наверняка найдутся желающие его обойти. Поэтому подробностей чуть меньше, чем в рецептах Coca-Cola, но главное известно — теперь каждый абзац, написанный Claude, несёт на себе признак робота.
Остаётся один вопрос: если в будущем все роботы начнут ставить автографы, не появится ли новая профессия — цифровой «подписант»? Время покажет, а пока новый мир ИИ снова стучится в двери — с водяными знаками на пороге.
PEREC.RU
Anthropic в очередной раз прыгает выше головы, изображая борьбу с невидимым врагом — а именно с неотмеченными текстами, сгенерированными ИИ. Маркировка цифровым водяным знаком — не печать качества, а, скорее, клеймо тех, кто боится торжества машин над творческой элитой человечества.
Любопытно, как быстро ИИ, в который вложили сотни миллионов, превратился в цифрового стажера, которому теперь доверяют только подписывать свои доморощенные строки. Закон Евросоюза призывает честно предупреждать граждан: «Внимание, перед вами очередная солянка из бит и байтов» — и борьба с этим идет с такой же удалью, как охота за ведьмами в XVI веке.
И всё это — чтобы отделять «скучную» механику ИИ-текста от искромётного авторства настоящего человека (ну или того, кто умеет пользоваться ChatGPT покреативнее). На деле, скоро профессия «перепасовщик AI-текстов» станет востребованнее, чем реальный писатель, если эпидемия маркировки доберётся до всех цифровых материалов.
Anthropic держит детали в секрете, будто речь идет не о водяных знаках, а, как минимум, о рецепте Coca-Cola. Но, возможно, цифровой подписи не избежать — если не хочешь, чтобы твои мысли принял за творчество новой волны железных поэтов.
