Чатботы, нарушающие права человека: когда ИИ пренебрегает свободой прессы.

Искусственные интеллект-чатботы зачастую искажают сведения о правах человека в разных странах, выяснили исследователи.
Языковые модели, лежащие в основе ваших любимых ИИ-чатботов, не только обладают социальными и расовыми предвзятостями, но и имеют внутренние предвзятости против демократических институтов.
Недавнее исследование, проведенное учеными из MIT Sloan School of Management, проанализировало, как шесть популярных языковых моделей (включая ChatGPT, Gemini и DeepSeek) представляют состояние свободы прессы — и, косвенно, доверия к СМИ — в ответах на запросы пользователей. Результаты показали, что языковые модели последовательно утверждали, что в странах меньше свободы прессы, чем это указано в официальных отчетах, таких как индекс свободы прессы (WPFI), опубликованный «Репортерами без границ». Например, ChatGPT оценил 97% из 180 протестированных стран негативно.
Чатботы стали неотъемлемой частью инфраструктуры информационного пространства, достигнув уровня влияния, сопоставимого с социальными медиа, и они также могут оказывать влияние на то, как их пользователи понимают свободу в мире. Исследование MIT показало, что языковые модели искажают и недооценивают свободу прессы в странах, где на журналистов накладывается сравнительно немного ограничений.
«У языковых моделей миллионы пользователей по всему миру», — сказала Исабелла Лоаиза, постдокторант MIT Sloan и один из авторов отчета. «Таким образом, их неверные представления о прессе, её целостности и независимости могут искажать восприятие публики о гражданских правах и свободах, которыми пользуются журналисты как внутри, так и за пределами стран».
Помимо общего перекоса в оценке свободы прессы в мире, исследование показало, что языковые модели имеют естественный «внутренний предвзятость», который влияет на оценку стран, где имеется высокая степень свободы прессы, и «более свободные» страны оценивались значительно ниже, чем другие страны. В то же время, языковые модели демонстрировали внутреннюю предвзятость, что приводило к более положительной оценке их родины или стран-разработчиков.
В общем, тесты продемонстрировали систематические, а не случайные предвзятости в оценке свободы прессы языковыми моделями. Причины этого заключаются в данных, на которых они обучены. «Мы говорим о так называемой демократической дилемме, когда в обществах с большей свободой прессы журналисты и граждане могут свободно критиковать государственные политики и документировать нарушения свободы прессы, создавая значительное негативное освещение, которое становится чрезмерно представленным в обучающих данных», — объясняет отчет. Поскольку больше «негативных» новостей распространяется в «свободных» странах, страны с авторитарными или ограниченными медийными системами подавляют критическую репортажность, искажают данные и ответы чатбота.
«Хотя мы находим, что языковые модели искаженно представляют свободу прессы двумя способами — как недооценивание свободы прессы, так и более критичным отношением к свободным странам, наша третья находка показывает, что разные модели искажаются в разных направлениях», — объясняет Лоаиза. «Этот результат интересен, потому что различия в том, как языковые модели искажают информацию, усложняют обнаружение этих предвзятостей, и мы также не видели других исследований, показывающих столь разветвленные паттерны. Дополнительно, эта находка (домашний предвзятость) предполагает, что особенно популярная или широко используемая модель может повлиять на глобальные нарративы об своей родине или о странах, схожих с ней, будучи менее критичной по отношению к состоянию свободы прессы».
Исследования показали, что пользователи, которые взаимодействуют с новостями в основном через социальные медиа, имеют меньше доверия к прессе, объясняет отчет, но языковые модели представляют собой дополнительный набор проблем. С одной стороны, они более похожи на традиционные печатные и телевизионные источники новостей с централизованными информационными потоками. Но и ИИ-чатботы также подвержены алгоритмической медиации контента, как и ленты в социальных медиа, создавая аналогичные эхо-камеры, а также уникальные для чатботов проблемы, такие как подобострастное поведение.
По словам исследователей, эти предвзятости рискуют преуменьшать ограничения прессы в более авторитарных странах в своих ответах, в то время как более богатые страны и разработчики получают возможность «проецировать мягкую силу» в глобальной «доске ИИ».
Даже энтузиасты чатботов отметили ненадежность самых популярных моделей и легкость, с которой они могут прийти к националистическим ответам. У ранних пользователей DeepSeek, например, оказалось, что чат-агент цензурировал запросы о политике и истории Китая — ограничение, встроенное в модель по просьбе китайских государственных чиновников, которое предотвращает генеративный ИИ, нарушающий «основные социалистические ценности» страны или «подстрекающего к подрывной деятельности против государственной власти и свержения социалистической системы».
Авторы отчета связывают эти выводы с увеличением использования ИИ в официальных оценках, включая его интеграцию в высокие международные организации, такие как ООН, что ставит под сомнение их надежность как инструментов для глобальной оценки прав человека и гражданских прав.
«Поскольку эти системы становятся ключевыми культурными и геополитическими инструментами, они должны гарантировать точное представление демократических институтов, таких как пресса и права человека и гражданские права», — пишут авторы отчета. «Их соответствие демократическим принципам становится не только технической проблемой, но и основным требованием для сохранения демократических обществ в эпоху цифровых технологий».
«Доступ к надежной информации о состоянии и здоровье институтов, которые поддерживают демократию, имеет критическое значение для гражданского участия», — отметил соавтор отчета Роберто Ригобон.