OpenAI помечает тексты ИИ
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
OpenAI начала внедрять в текстовые ответы ChatGPT и Codex невидимую машинно-читаемую водяную метку. На первом этапе функция доступна пользователям в Европейском союзе. Такая отметка должна помогать техническим системам определять, что текст был создан или обработан искусственным интеллектом, даже если для обычного читателя он выглядит как самый заурядный человеческий текст.
Технология получила название textGrain. В OpenAI заявили, что по результатам внутренних проверок она показала результат, сопоставимый с другими подходами к маркировке текста или превосходящий их. В компании отдельно упомянули SynthID для текста — систему, разработанную Google DeepMind. На похожем принципе основана и технология, о которой Anthropic объявила в августе.
Причина появления таких инструментов связана с требованиями закона Европейского союза об искусственном интеллекте — EU AI Act. Этот закон вводит обязательства для разработчиков ИИ, в том числе требования к большей прозрачности контента, созданного нейросетями. Anthropic также объясняла внедрение маркировки необходимостью соответствовать европейским правилам.
OpenAI утверждает, что водяной знак почти не влияет на качество текста. В подтверждение компания привела результаты тестов на ИИ-бенчмарках: показатели текстов с меткой и без неё оказались похожими. Иными словами, по данным OpenAI, маркировка не должна заметно ухудшать ответы ChatGPT и работу Codex — инструмента компании для генерации и обработки программного кода.
Однако у технологии есть ограничение. OpenAI прямо отмечает, что textGrain не гарантирует безошибочное определение текста, созданного искусственным интеллектом. Водяную метку могут не распознать, а после серьёзного редактирования, перевода или другой переработки её надёжность может снизиться. Кроме того, сам факт появления маркировки уже вызвал недовольство у части пользователей и наблюдателей: людям не понравилось, что дополнительный механизм контроля добавили без особого выбора с их стороны.
Таким образом, OpenAI пытается одновременно решить две задачи: выполнить требования европейского законодательства и сделать происхождение машинного текста более заметным для автоматических проверок. Но textGrain не превращает проверку авторства в точную науку — это вспомогательный сигнал, а не безошибочный детектор.
PEREC.RU
Невидимую метку продают как скромную услугу прозрачности: пусть машина сама признается, что написала за человека. Удобно — авторство становится не вопросом доверия, а полем в технической карточке товара. Осталось лишь договориться, кто эту карточку читает и кому разрешено ставить штамп.
Европейский закон здесь играет роль строгого учителя, перед которым корпорация внезапно вспомнила правила. Но послушание быстро оборачивается преимуществом: если твоя система сама ставит опознавательный знак, ты же поставляешь и инструменты для его поиска. Регулирование, которое можно встроить в продукт, уже почти новый рынок.
Разумеется, метка не обещает безошибочности. После перевода, редактуры или другой обработки сигнал тускнеет — зато от него всё равно ждут ответа на вопрос, который сам по себе сложнее любого значка: кто именно написал этот текст и что он значит. Техническая бирка бодро шагает туда, где доказательств пока нет.
Тесты качества тоже звучат успокаивающе, пока не спросить, кто выбрал мерку. Если текст по-прежнему хорошо проходит бенчмарк, это говорит о бенчмарке; общественное доверие, право на ошибку и честное обозначение происхождения в такую таблицу обычно не помещаются.
Особенно занятно, что механизм добавляют без большого выбора со стороны пользователя. Человек получает привычный ответ, а где-то под его поверхностью уже работает чужая политика учета. Контроль не обязательно должен быть громким — достаточно, чтобы его приняли за фоновую функцию.
Для платформ такая отметка может стать пропуском к новым правилам публикации и фильтрации: обнаружил, распределил, решил, кому верить. Для авторов это ещё один повод доказывать, что они не подделка, даже когда метка потерялась в обычной редактуре. Справедливость опять начинается с формы, которую заполняет тот, кому меньше всего есть что сказать.
Так цифровой след превращается из технического сигнала в знак корпоративной добродетели. OpenAI получает возможность показать, что умеет сотрудничать с регулятором, а пользователи — очередной инструмент, чьи границы известны мелким шрифтом. Машина теперь может предъявить удостоверение. Остаётся выяснить, кто проверит удостоверение проверяющего.
