Anthropic вводит невидимые водяные знаки для контента Claude

Компания Anthropic объявила, что начнет внедрять невидимые водяные знаки и специальные метаданные для текстов и изображений, созданных искусственным интеллектом Claude. Делается это для того, чтобы соответствовать новым требованиям Европейского союза по прозрачности работы AI — европейские законы все чаще требуют, чтобы контент, созданный нейросетями, можно было отличить от человеческого.

На новой справочной странице Claude сказано, что каждый текст, созданный этой нейросетью, будет содержать встроенные водяные знаки, которые невозможно заметить обычным взглядом. Кроме этого, файлы будут сопровождаться специальными метаданными — цифровой подписью, доказывающей происхождение контента там, где это поддерживается технически. Всё это призвано помочь платформам и простым пользователям выявлять искусственный контент — вроде бы для борьбы с фейками и имитациями реальных текстов и изображений, входящих в Интернет-обращение.

Пока что все эти нововведения — лишь обещание на будущее. Anthropic прямо заявляет, что внедрит изменения не немедленно, а позже, чтобы подготовиться к вступающим в силу требованиям по маркировке искусственного контента в Европе.

Зачем всё это? Европа требует прозрачности — и крупные AI-компании, одна за другой, обещают отметить любой сгенерированный их сервисами текст или картинку, чтобы пользователь знал: внутри строчек может таиться не только человеческая, но и машинная мысль. Разработчики уверяют — никаких заметных изменений для обычных глаз не будет: увидить водяной знак нельзя, но платформа всё поймет.

Для России новость почему важна? IT-рынок и те, кто работает с искусственным интеллектом или массовым контентом, рано или поздно столкнутся с подобной практикой — как минимум, при работе с импортными решениями и глобальными площадками, ориентированными на европейское право.