Являются ли чат-боты ИИ угрозой для демократии? Новое исследование изучает их убедительную силу

Являются ли ИИ-чат-боты угрозой для демократии? Новое исследование, опубликованное в Journal of Experimental Political Science, решило выяснить, насколько такие боты могут быть эффективны в политической агитации — и сколько это стоит в пересчёте на одного убеждённого избирателя.

Сначала пару слов о самих ИИ-чат-ботах. Такие системы, называют их LLM (Large Language Models — большие языковые модели), учатся на гигантских массивах текстов, чтобы писать как человек: по делу, убедительно, даже с долей обаяния. Главное достоинство этих технологий — возможность быстро и персонально общаться с любым собеседником, учитывать его убеждения, эмоции и реакции. В мире, где массовое производство индивидуальных политических сообщений уже становится реальностью, эффект может быть взрывным: дешёвое, масштабируемое воздействие и — что особенно тревожно — потенциал распространять политическую чушь убедительней старого доброго человека.

Авторы исследования из Йельского университета провели два онлайн-эксперимента с 5150 участниками. Их случайно распределили по четырём группам: первой показывали видео, не связанное с темой (плацебо), второй — ролик с реальным человеком и аргументами «за» иммиграционную политику, третьей — разговор с чат-ботом, маскирующимся под человека и доказывающим всё то же, четвёртой — общение с ботовым "честным" ИИ, который открыто заявлял, что он не человек. Оба чат-бота были основаны на модели Claude 3.5 Sonnet.

Сперва опросили, потом через 5 недель спросили снова: изменились ли взгляды, насколько надёжно подействовала агитация? Дополнительно провели второй эксперимент — тот же принцип, но с трёх свежих тем: кто должен платить за обучение нелегальных мигрантов, где должны ходить трансгендеры в туалетах, и стоит ли поднимать минимальную зарплату в США. При этом третий вопрос заставил проверить: смогут ли боты одинаково успешно агитировать по "правым" и "левым" вопросам.

Выяснилось, что методы убеждения — хоть с человеком, хоть с ботом — оказываются примерно одинаково эффективными. Разницы между чат-ботами («я-человек» против «я-бот») почти нет. Влияние сохраняется спустя месяц. Числовая оценка: чтобы убедить одного избирателя, чат-боту требуется от $48 до $75, традиционные методы обходятся примерно в $100 с носа.

Однако у технологий есть ахиллесова пята: людям всё ещё не особо хочется долго болтать с ботами, а вот на «живого человека» внимание переключить проще. Пока массового эффекта нет — но как только технологии дорастут до действительно интересных разговоров, у старых политтехнологов дрогнет губа.

Авторы честно предупреждают: разные модели ИИ могут показывать разные результаты, участие в научных опросах повысило доверие к ботам, а в реальном мире скептицизм к ИИ может ослабить эффект.

Статью написали исследователи Zhongren Chen, Joshua Kalla, Quan Le, Shinpei Nakamura-Sakai, Jasjeet Sekhon и Ruixiao Wang.