ChatGPT: политический сдвиг вправо в эпоху искусственного интеллекта

ChatGPT смещается вправо в политическом спектре
Изучение большого числа ответов ChatGPT показало, что модель последовательно демонстрирует ценности, соответствующие либертарианско-левому сегменту политического спектра. Однако новые версии ChatGPT показывают заметный наклон к политическому правому правлению. Статья была опубликована в Humanities & Social Sciences Communications.

Большие языковые модели (LLMs) — это системы искусственного интеллекта, обученные понимать и генерировать человеческий язык. Они обучаются на массивных наборах данных, которые включают книги, статьи, веб-сайты и другие текстовые источники. Выявляя шаблоны в этих данных, LLM могут отвечать на вопросы, писать эссе, переводить языки и многое другое. Хотя они не думают и не понимают, как люди, они предсказывают наиболее вероятные слова на основе контекста.

Часто ответы, генерируемые LLM, отражают определенные политические взгляды. Хотя LLM не обладают личными политическими убеждениями, их выводы могут отражать шаблоны, обнаруженные в данных, на которых они были обучены. Поскольку большая часть этих данных поступает из интернета, новостных медиа, книг и социальных сетей, в них могут содержаться политические предвзятости. В результате ответы LLM могут быть либеральными или консервативными в зависимости от темы. Это не означает, что модель "верит" в что-то — она просто предсказывает слова на основе предыдущих шаблонов. К тому же, то, как сформулирован вопрос, может повлиять на то, насколько политически ангажированным будет ответ.

Автор исследования Ифей Лю и ее коллеги стремились исследовать, изменилось ли и как именно изменилось идеологическое позиционирование ChatGPT-3.5 и GPT-4 со временем. ChatGPT — одна из самых популярных и широко используемых LLM, и авторы предположили, что более поздние версии могут демонстрировать значительное идеологическое изменение по сравнению с ранними.

Чтобы оценить политическую ориентацию ChatGPT, исследователи использовали тест Политического Компаса, инструмент, который отображает политические убеждения вдоль двух осей: экономической (лево-правой) и социальной (авторитарной-либертарианской). Исследование собрало 3000 ответов от каждой модели GPT, включенной в анализ.

Тестирование проводилось в режиме разработчика и было предназначено для предотвращения влияния предыдущих ответов на последующие. Чувствительность модели была сохранена на стандартном уровне, чтобы обеспечить случайность ответов, соответствующих тому, что испытывают обычные пользователи. Запросы были поданы с трех разных аккаунтов, чтобы учесть возможные вариации в том, как модель отвечает разным пользователям.

Результаты показали, что ChatGPT последовательно соотносился с ценностями либертарианско-левого квадранта. Однако новые версии модели продемонстрировали четкое смещение к политическому праву. Либертарианско-левые ценности, как правило, подчеркивают индивидуальную свободу, социальное равенство и добровольное сотрудничество, в то время как противостоят как авторитарному контролю, так и экономической эксплуатации. Напротив, экономические правые ценности отдают приоритет свободному рыночному капитализму, праву собственности и минимальному вмешательству государства в экономику.

"Это сдвиг особенно значим, учитывая широкое использование LLM и их потенциальное влияние на общественные ценности. Важно отметить, что наше исследование контролировало такие факторы, как взаимодействие пользователей и язык, и наблюдаемые изменения не были напрямую связаны с изменениями в обучающих наборах данных," заключили авторы исследования.

"Хотя это исследование предоставляет ценные идеи о динамической природе согласования ценностей в ИИ, оно также подчеркивает ограничения, включая сложность изоляции всех внешних переменных, которые могут влиять на эти сдвиги. Эти результаты указывают на необходимость постоянного мониторинга ИИ-систем для обеспечения этического согласования ценностей, особенно по мере их все более глубокого интегрирования в человеческие процессы принятия решений и системы знаний."

Исследование проливает свет на современные тенденции в ответах ChatGPT. Однако важно отметить, что LLM не имеют собственных систем ценностей. Их ответы зависят от выбора материалов, на которых они были обучены, и от инструкций, полученных от разработчиков. По мере изменения этих факторов, будут изменяться и ответы, предоставляемые этими системами.

Статья ""Поворачивая вправо"? Экспериментальное исследование политического сдвига ценностей в больших языковых моделях" была написана Ифей Лю, Юангом Панвангом и Чао Гу.