Генеративный ИИ: культурные разногласия

Новое исследование, опубликованное в Nature Human Behaviour, показало: искусственный интеллект не так беспристрастен, как принято думать. Оказывается, достаточно поменять язык общения с ИИ — и его «характер» меняется на глазах. Исследователи выяснили, что при промптинге (задании вопросов) на китайском генеративные модели вроде GPT-4 и ERNIE 3.5 склонны выдавать более коллективистские, «семейные» и учитывающие контекст ответы. А вот англоязычный запрос запускает противоположный сценарий: нейросеть начинает рассуждать индивидуалистично и более аналитично.

Речь идет о генеративных ИИ — то есть, о системах, способных создавать новый текст или изображения на основе анализа огромных массивов данных. Самые известные представители: ChatGPT от OpenAI, Gemini от Google, ERNIE Bot от китайской Baidu.

Главный автор исследования — Джексон Г. Лу из MIT — поясняет: принято считать, что подобные ИИ одинаково реагируют на запросы вне зависимости от языка, но их обучали на текстах из разных культурных пластов. Поэтому команда решила проверить, насколько систематически такие языковые перекосы проявляются на практике.

В изучении использовали два ключевых понятия из культурной психологии: социальная ориентация (направленность на "я" или "мы") и стиль мышления (аналитичный или холистичный). Западные культуры, по данным психологов, склонны к независимости и личным целям; восточные — к гармонии с обществом и коллективизму.

Эксперименты провели на GPT-4 и ERNIE 3.5. Сценарии задавались на английском и китайском, а для чистоты эксперимента каждый вариант запускался по 100 раз, система между итерациями сбрасывалась.

Первый тест — на социальную ориентацию. AI предлагали выбрать пары кругов, иллюстрирующих отношения между "я" и окружением: чем больше накладываются — тем больше коллективизма. AI на китайском строне всё больше наклонялся к "семейности" — выбирал круги с максимальным пересечением, а на английском — наоборот, к независимости.

Второй набор задач выявлял стиль мышления. На китайском AI чаще объяснял поведение ситуацией и контекстом, обобщал, рассматривал разные исходы. На английском — рассуждал логически, фокусировался на личности, чаще принимал формальную логику даже вопреки здравому смыслу (например, что сигареты, раз "сделаны из растений", якобы полезны).

В задачах на оценку вероятности перемен (например, смогут ли поругающиеся дети стать парой) AI на китайском подчеркивал изменчивость мира, а на английском вставал на сторону предсказуемости и стабильности.

Все различия были заметны не только по баллам, но и по структуре ответов: китайские промпты провоцировали больше "размытых", контекстных рассуждений, английские — конкретику и единственную версию.

Даже при генерации слоганов для рекламы (например, страхование или щетки) AI выдавал на китайском посылы к заботе о семье, а на английском — к личной выгоде. Эффект легко регулировать: добавь в английский промпт фразу "ты — обычный житель Китая" — и вот уже ИИ вдруг становится коллективистом.

Вывод — нейросети не абстрагированы от культур: язык влияет на их поведение столь же сильно, сколь и данные, на которых они обучены. Это значит, что AI может по-тихому влиять на наше мышление и выбор. Однако, если знать о таком перекосе — можно корректировать его с помощью цепки фраз и уточнений в промптах.

Стоит помнить и об ограничениях: исследователи работали всего с двумя языками и двумя моделями (GPT-4 и ERNIE 3.5), расширение до других языков ещё предстоит. И нет, сами модели не "имеют культуры" — они просто повторяют найденные в текстах паттерны. В будущем учёные планируют выяснить, как такие эффекты транслируются на реальные повседневные решения.

Статья написана Джексоном Г. Лу (MIT), Лесли Луюанг Сонг и Лу Дорис Чжан.