Люди не замечают ИИ в сообщениях

Новое исследование, опубликованное в журнале Computers in Human Behavior, показало любопытную картину: люди резко ухудшают своё мнение о человеке, если узнают, что его сообщение написано искусственным интеллектом. Но в повседневности большинство даже не подозревает, что под «искренним» текстом может скрываться работа нейросети. Если не знает, кто автор — человек или программа, — получатель автоматически приписывает текст человеку и формирует более тёплое впечатление.
Генеративный ИИ — это программы, способные создавать реалистичные тексты по кратким инструкциям. Сегодня ими пользуются для писем, постов и сообщений. Учёные Jiaqi Zhu и Andras Molnar решили проверить, как это меняет наше восприятие друг друга.
Обычно написание продуманного текста требует времени и усилий — это признак искренности. Поэтому исследователи попытались понять, делает ли доступность ИИ людей более подозрительными. Ранее уже было известно: если человеку прямо сказать, что текст написан ИИ, он реагирует негативно. Но в реальной жизни такие признания почти не встречаются.
В первом эксперименте участвовали 647 взрослых в США. Им показывали разные типы писем — от благодарственного письма друга до сопроводительного письма аналитика. Затем участникам давали разную информацию: что письмо написал человек, что текст сгенерировал ИИ, что источник неясен или вообще не давали уточнений.
Результат: когда участники знали об ИИ, они оценивали отправителя намного хуже. Но если информации о происхождении текста не было, впечатление о «человеке» оставалось позитивным. Более того, даже намёк на «неопределённость» не делал людей подозрительными.
Молнар отмечает, что вне академической среды большинство людей вообще не думают о возможном использовании ИИ в обычных сообщениях. Авторы исследования подчёркивают: проблема не в качестве текста, а в том, как мы оцениваем человека, который его отправляет.
Через семь месяцев исследователи повторили эксперимент с новой группой из 654 человек и с новыми сценариями — постом о стажировке, сообщением с извинениями и анкетой на сайте знакомств. Участникам предлагали оценить, сколько усилий вложил автор и насколько текст отражает его чувства. Если говорили, что текст сделал компьютер, оценки по всем параметрам падали.
Но если о происхождении текста ничего не говорили, люди считали, что его написал человек и вложил те же усилия. Даже активные пользователи ИИ не были более подозрительными к чужим сообщениям.
Авторы подчёркивают: это создаёт неравные условия. Те, кто не хочет или не умеет пользоваться ИИ, оказываются в проигрыше, а те, кто активно его использует, становятся более «гладкими» и убедительными — пока не признаются в использовании. Ограничения исследования включают гипотетические сценарии и отсутствие данных о живом общении. Учёные планируют изучить, какие ситуации усиливают подозрительность и как это проявляется в разных странах.
Работа называется «Blissful (A)Ignorance» и выполнена Jiaqi Zhu и Andras Molnar.