ИИ маскируется под человека
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
ИИ меняет саму шкалу «человеческого» письма
Искусственный интеллект научился не только писать тексты, но и редактировать собственные следы. К такому выводу пришёл Fırat Mıhcı — специалист по компьютерной лингвистике и основатель HumanizeMy.ai. По его оценке, одна модель может переписать черновик другой так, чтобы характерные признаки машинного текста стали значительно менее заметными для проверяющих.
Сценарий выглядит почти буднично: ИИ создаёт исходный текст, другой ИИ меняет его стиль, затем человек-редактор одобряет результат. После этого материал публикуют под настоящим именем автора, а не с пометкой о машинном происхождении. Получается неловкая ситуация: маскировка проходит проверку один раз — и затем сама становится частью образца «нормального» человеческого письма.
В основе анализа — 18 989 научных аннотаций из трёх областей, опубликованных в период с 2019 по 2026 год. Исследователи сравнили частоту употребления слов до и после конца 2022 года, когда широко распространились инструменты для генерации текстов.
В компьютерной лингвистике слова, которые связывают с ИИ-стилем, стали встречаться примерно в семь раз чаще: с 1,9 до 14 случаев на 10 000 слов. В аннотациях по нейронаукам показатель вырос с 1,7 до 8,7 случая — почти в пять раз.
Математика почти не изменилась: с 0,9 до 1,3 случая на 10 000 слов. Этот массив использовали как контрольную группу. При этом диапазоны статистической неопределённости пересекались, поэтому небольшое увеличение нельзя надёжно отличить от отсутствия реальных изменений за весь период наблюдения.
Отдельно отслеживали слово delve. В 2024 году оно встречалось в 2,75% изученных аннотаций, а в неполном наборе данных за 2026 год — лишь в 0,12%. Итоговый показатель ещё может измениться после появления новых публикаций. Среди других отслеживаемых слов были intricate, showcase, nuanced и underscore — последнее часто связывают с формулировками, характерными для ИИ.
Авторы подчёркивают: исследование не утверждает, что каждая аннотация с такими словами написана машиной. Речь идёт о другом — словарь, связанный с ИИ, постепенно проникает в опубликованные тексты, поэтому обнаружение авторства по отдельным словам становится всё менее надёжным.
Здесь возникает замкнутый круг. Системы, обученные на старых текстах, могут ошибочно помечать настоящих авторов, если их естественный словарь начинает напоминать машинный. А системы, обученные на новых публикациях, рискуют принять уже «очеловеченный» ИИ-стиль за обычную норму. В результате будущий машинный текст будет сложнее отличить от человеческого.
Редакторы и издатели, рассматривавшие эти аннотации, по данным анализа, не указали на искусственное происхождение формулировок до принятия рукописей. «ИИ достаточно, чтобы его переписанный текст хотя бы один раз приняли за человеческий. После этого маскировка становится частью ключа ответа», — сказал Fırat Mıhcı.
Если тексты, сформированные под влиянием ИИ, продолжат незаметно попадать в научные публикации, будет постепенно смещаться сама база, по которой определяют человеческое письмо. Это особенно важно для академической среды и других сфер, где стиль используют как главный признак при попытке отличить автора-человека от машины.
PEREC.RU
Публикация рассматривает исследование Fırat Mıhcı о том, как искусственный интеллект меняет признаки, по которым люди и автоматические системы пытаются отличить человеческий текст от машинного. Автор исследования — специалист по компьютерной лингвистике и основатель HumanizeMy.ai — утверждает, что одна ИИ-модель может переписать черновик, созданный другой моделью, пока характерные признаки генерации не станут значительно менее заметными для проверяющих.
Сценарий предполагает, что после такой переработки текст одобряет человек-редактор, а затем его публикуют под настоящим именем, без пометки о машинном происхождении. Если текст хотя бы один раз принимают за человеческий, он попадает в опубликованный массив и может начать восприниматься как образец обычной человеческой речи.
Исследование охватывает 18 989 научных аннотаций, относящихся к трём областям: компьютерной лингвистике, нейронаукам и математике. Публикации датируются периодом с 2019 по 2026 год. Учёные сравнивали частоту употребления слов, которые связывают с ИИ-стилем, до и после конца 2022 года — времени, когда широко распространились инструменты генерации текста.
В компьютерной лингвистике частота таких слов выросла с 1,9 до 14 случаев на 10 000 слов, что примерно соответствует семикратному увеличению. В нейронауках показатель поднялся с 1,7 до 8,7 случая, то есть почти в пять раз. В математике изменение оказалось небольшим: с 0,9 до 1,3 случая на 10 000 слов. Этот массив использовали как контрольную группу. Поскольку доверительные диапазоны пересекались, небольшое увеличение в математических текстах статистически нельзя уверенно отличить от отсутствия изменений за весь период.
Одним из отслеживаемых слов было delve. В 2024 году оно встречалось в 2,75% изученных аннотаций, а в неполном наборе данных за 2026 год — в 0,12%. Авторы предупреждают, что после поступления новых данных показатель может измениться. Также анализировались слова intricate, showcase, nuanced и underscore, которые часто связывают с формулировками, характерными для текстов, созданных ИИ.
Исследование не утверждает, что любая аннотация с этими словами написана искусственным интеллектом. Главный тезис заключается в том, что ИИ-связанный словарь уже проникает в опубликованную научную речь. Поэтому автоматические системы, пытающиеся определить происхождение текста только по словам и стилю, со временем становятся менее надёжными.
Возникает замкнутый цикл. Детекторы, обученные на старых текстах, могут ошибочно обвинять настоящих авторов, если их естественная лексика начинает напоминать машинную. Системы, обученные на новых публикациях, рискуют принять уже изменённый ИИ-текст за нормальный человеческий образец и тем самым усложнить обнаружение будущей генерации.
По данным анализа, редакторы и издатели, рассматривавшие аннотации, не указали на искусственное происхождение формулировок до принятия рукописей. Fırat Mıhcı сформулировал вывод так: ИИ достаточно один раз добиться признания своего переписанного текста человеческим, чтобы эта маскировка вошла в дальнейший «ключ ответа».
Если тексты, сформированные под влиянием ИИ, продолжат незаметно попадать в научные публикации, будет постепенно смещаться сама база, по которой определяется человеческое письмо. Это создаёт проблему для академических издательств и всех сфер, где авторство пытаются устанавливать преимущественно по языковому стилю.
