Искусственный интеллект снова облажался: теперь и в морали

Недавнее исследование, опубликованное в Proceedings of the National Academy of Sciences, показало, что крупные языковые модели — это такие ИИ, которые учатся на огромных объёмах текстов (например, ChatGPT от OpenAI или аналоги от Google и Meta), — имеют существенную проблему с оценкой моральных ценностей людей, особенно если речь идёт о культурах вне Запада. Проще говоря, ИИ переоценивает моральные приоритеты стран вроде США и Великобритании, одновременно упорно не замечая моральных особенностей Африки, Азии или Латинской Америки. Исследователи отмечают: если мы даём ИИ судить о глобальных проблемах, он невольно продолжает штамповать стереотипы, которые в реальности только мешают понять друг друга.

Как всё было устроено? Учёные из Университета Массачусетса под руководством Мохаммада Атари решили выяснить: сможет ли искусственный интеллект адекватно «прочувствовать» мораль властей в разных уголках мира? Для этого взяли стандартную психологическую анкету для оценки шести ключевых ценностей (таких как Забота, Равенство, Соразмерность, Лояльность, Авторитет и Чистота; если вдруг забыли, Забота — про сострадание, Равенство — про справедливость, Чистота — про моральную чистоплотность и прочую риторику). Более 90 тысяч человек из 48 стран прошли опрос, отметили своё отношение по шкале от 1 до 5. Для чистоты эксперимента учёные скорректировали данные с учётом пола, возраста и статистики Всемирного банка.

Затем к делу подключили машин: загрузили те же вопросы в несколько версий ИИ (GPT-3.5, GPT-4, GPT-4o, потом ещё LLaMA от Meta и Gemini Pro от Google). Каждый вопрос повторяли по 10 раз, чтобы не возникло «случайностей», IT-системы настрочили свыше 103 тысяч ответов. Потом сверили с результатами людей по всем шести категориям, а для наглядности подсчитали так называемое евклидово расстояние — насколько ответы ИИ ушли в сторону от живых мнений внутри каждой страны.

Результат, как говорится, не заставил себя ждать: машины уверенно переоценивали важность Заботы и Авторитета в Западных странах (США, Канада, Австралия), а вот моральные ориентиры в остальном мире были им, мягко говоря, до лампочки. Особенно заметна разница оказалась для стран Ближнего Востока и Африки. Перевели опросы на арабский, испанский и урду, взяли ещё 4,6 тысячи человек из 9 неанглоязычных стран — и всё равно картина не поменялась: ИИ сохранял западный уклон.

Идея «машинной объективности» разбивается о старую добрую проблему предвзятых данных: ИИ учится на том, что ему скармливают, а скармливают в основном англоязычные, западные тексты. Там и журналисты, и редакторы с их прозрачностью и нравственным дискурсом. Попробуй потом, не зная культурных нюансов, не выдать шаблонный ответ за мировую истину. Даже попытки «раздебажить» систему с помощью людей-редакторов (зачастую тех же с Запада) особо не спасают: ведь кто учил ИИ быть «вежливым», тот свои рамки морали и заложил.

Разработчики честно признают: такой подход может привести к искажённым выводам, вплоть до ошибок на уровне государственных решений. Представьте себе чатбота по психологии, заточенного на Запад, который советует азиатской семье нарушить традиции ради самореализации — культурный конфликт гарантирован.

Что с этим делать? Приходится рассчитывать либо на расширение кругозора ИИ за счёт реальных локальных текстов, либо — как это советует автор исследования — относиться к любым советам и суждениям машин с определённой долей скепсиса. Особенно если вопрос касается морали или спорных тем: религии, абортов, политики.