Заключенные в информационном пузыре: Как поисковые системы подтверждают наши убеждения

Учёные показывают, как мы неосознанно запираем себя в информационном пузыре
Новое исследование, опубликованное в журнале PNAS, подчеркивает сильный, но часто игнорируемый фактор поляризации мнений: это то, как люди ищут информацию в интернете. В рамках 21 эксперимента, в которых принимали участие почти 10 000 человек, исследователи выяснили, что прежние убеждения людей влияют на те поисковые запросы, которые они используют, а узкая направленность поисковых систем на "релевантность" лишь укрепляет эти убеждения. Даже когда люди не пытаются активно подтвердить свои взгляды, структура традиционных и управляемых ИИ поисковых инструментов может запирать их в информационных эха-камерах. Исследование также показало, что относительные простые изменения в том, как поисковые алгоритмы представляют информацию, могут помочь разорвать этот круг, способствуя обновлению убеждений и расширению понимания.

"Вдохновение для этого исследования пришло из личного опыта," — сказала автор исследования Эужина Люнг, ассистент профессора маркетинга в Бизнес-школе Фримена при Университете Тульен. "Я была на визите у моего соавтора Олега Урминского в Университете Чикаго. Это было в конце ноября, и я простудилась. Когда я искала в Google лекарства от простуды, я стала внимательнее следить за точными словами, которые я использую."

"Я заметила, что поиск по запросу ‘побочные эффекты лекарств от простуды’ дал мне совершенно другой и более тревожный набор результатов, чем поиск ‘лучшее лекарство от симптомов простуды’. Мне стало ясно, что моя собственная формулировка запроса кардинально формировала ту информацию, которую я получала, и это подтолкнуло нас к более систематическому изучению этого явления."

Авторы хотели протестировать, кроется ли проблема скорее в том, как алгоритмы выдают результаты, или в поведении самих пользователей. Также им было интересно, можно ли что-либо сделать, чтобы изменить этот паттерн.

Чтобы выяснить это, исследователи разработали серию экспериментов, которые изучали, как люди ищут информацию, как эти поиски влияют на их убеждения и может ли изменение подхода пользователя или алгоритма платформы способствовать изменению убеждений. Участники принимали участие в исследованиях, касающихся таких тем, как кофеин и риски продуктов, а также более широкой тематики, включая энергетику, преступность, биткойн, цены на газ и возрастные изменения в мышлении. Исследования включали реальные платформы, такие как Google, Bing и ChatGPT, а также специальную поисковую систему и ИИ-чат-ботов.

Первый набор исследований был сосредоточен на том, что исследователи называют «узким поисковым эффектом». Участники должны были сообщить о своих убеждениях по различным темам, а затем придумать собственные поисковые запросы для получения дополнительной информации. Кодировщики, которые не знали, о чем исследуется, оценили эти поисковые запросы по шкале, чтобы определить, были ли они нейтральными или предвзятыми в пользу подтверждения или опровержения убеждений участника.

В одном из исследований люди, считавшие кофеин полезным, склонны были искать такие вещи, как «польза кофеина», в то время как те, у кого были более скептические взгляды, искали «опасности кофеина». Это происходило по многим темам, включая цены на газ, преступность и ядерную энергетику.

Исследователи также обнаружили, что эти поисковые запросы, направленные на подтверждение убеждений, приводили к различным поисковым результатам — а эти результаты влияли на убеждения людей после поиска. В одном эксперименте участники были случайным образом распределены, чтобы искать либо «ядерная энергия хороша», либо «ядерная энергия плоха». Поскольку они были случайным образом распределены, исследователи предполагали, что обе группы исходили из похожих средних убеждений. Тем не менее, после чтения результатов заданных поисковых запросов их убеждения изменились в противоположные стороны.

Важно, что различия в убеждениях не возникали только от того, что им велено было искать. В последующем исследовании участникам показывали идентичные поисковые результаты, хотя они думали, что результаты соответствуют их поисковым запросам. Их убеждения не изменились, что говорит о том, что именно содержание поисковых результатов, а не выделенные термины, формировало их мнения.

Команда затем исследовала, привели ли эти изменения убеждений к реальным последствиям. В одном из исследований у голландских студентов спросили, ищут ли они риски или преимущества кофеина, затем им предложили выбрать между напитком с кофеином и без него. Те, кто искал преимущества, не только стали более позитивно настроены к кофеину после этого — они также с большей вероятностью выбрали напиток с кофеином.

"Самая важная мысль заключается в том, что мы все создаем свои собственные мини-‘эхо-камеры’, даже не осознавая этого," — рассказала Люнг PsyPost. "Наши существующие убеждения подсознательно влияют на слова, которые мы вводим в строку поиска, и поскольку поисковые системы созданы для релевантности, они показывают результаты, которые подтверждают наши первоначальные убеждения. Это происходит по множеству тем, от здоровья до финансов, и на всех платформах, включая Google и новые ИИ-чат-боты. Хотя простое сообщение людям о необходимости дальнейших поисков не решает проблему, наши исследования показывают, что разработка поисковых алгоритмов, обеспечивающих более широкие и сбалансированные взгляды, является очень эффективным решением."

"Чтобы было ясно, мы понимаем, что получение узконаправленных, гипер-релевантных результатов в большинстве случаев имеет свою ценность. Однако мы предлагаем предоставить людям простую возможность увидеть более широкий взгляд, например, кнопку ‘Поиск широко’ в дополнение к кнопке ‘Мне повезет’ в Google — это будет невероятно полезный шаг к созданию более информированного общества."

Затем исследователи изучили потенциальные меры вмешательства. Могло ли просто стимулирование людей делать больше поисков помочь? В одном из экспериментов участникам предложили провести второй раунд поиска. Но большее количество поисков не особо помогло — люди оставались при своих первоначальных предвзятостях, используя аналогичные поисковые запросы, которые возвращали аналогично однобокие результаты.

Они также протестировали когнитивный толчок. У некоторых участников спрашивали, как их убеждения могли бы измениться, если бы они использовали другой поисковый термин. Это немного помогло — те, кто заранее думал о потенциальном влиянии своего поискового термина, показывали немного большую восприимчивость к новой информации. Но эффект был ограничен и не устранял предвзятость.

Наиболее многообещающие результаты пришли от изменений самих алгоритмов. В нескольких исследованиях исследователи использовали специализированную поисковую систему, которая выглядела и ощущалась как Google, но показывала либо оригинальные результаты поиска пользователя, либо смесь, которая включала сбалансированные взгляды. Например, кто-то, кто ввел «польза кофеина для здоровья», мог видеть результаты, касающиеся не только выгод, но и рисков. Эти более обширные результаты неизменно приводили к более умеренным убеждениям.

В одном исследовании, посвященном взаимосвязи между возрастом и способностью мышления, участники видели либо результаты, подобранные к их запросу, либо более широкий набор, отражающий как положительные, так и отрицательные мнения. Те, кто увидел более широкую информацию, были более склонны пересматривать свои убеждения, хотя считали результаты столь же релевантными и полезными.

Исследователи продолжили эту идею и для чат-ботов с ИИ. В одном эксперименте они разработали две версии чат-бота на основе ChatGPT. Одна версия давала узкие ответы на основе того, что спрашивал пользователь. Вторая давала более широкие и сбалансированные ответы, включая плюсы и минусы. Хотя оба чат-бота использовали одну и ту же базовую модель, организм, предлагающий более широкие ответы, привел к большему обновлению убеждений. Люди, которые видели обширные ответы, оценили их как одинаково полезные и релевантные, как и узкие.

"Больше всего удивило, как хорошо люди реагировали на расширенные результаты поиска," — сказала Люнг. "В tech-мире есть предположение, что пользователи требуют гипер-релевантной, узко направленной информации, и что дать им что-либо другое будет воспринято как менее полезное или досадное. Тем не менее, наши исследования последовательно показывали, что это не так."

"Когда мы давали людям более сбалансированный набор результатов поиска или более широкий ответ, сгенерированный ИИ, они оценивали информацию как столь же полезную и релевантную, как и те, кто получал предвзятые, подтверждающие убеждения результаты. Это оптимистично, так как это означает, что платформы могут потенциально способствовать более информированному обществу, не жертвуя удовлетворенностью пользователей."

Эти результаты также подчеркивают ограничения зависимости от индивидуального самосознания для устранения проблемы. Большинство людей не осознавали, что они ищут узко. На самом деле лишь небольшая часть заявила, что использовали свои поисковые термины для подтверждения своих убеждений. Это указывает на то, что проблема заключается не только в предвзятости, но и в том, как платформы реагируют на их естественные склонности.

Но, как и в любом исследовании, существуют некоторые оговорки.

"Важно четко понимать специфические условия, при которых этот эффект наиболее силен," — отметила Люнг. "Как мы изложили в статье, ‘узкий поисковый эффект’ и преимущества расширения результатов поиска наибольшим образом проявляются при определённом наборе обстоятельств: во-первых, пользователи должны иметь какое-либо предшествующее убеждение, даже неявное, которое влияет на выбираемые ими поисковые термины. Во-вторых, поисковая технология должна действительно предоставлять различные, более узкие результаты в зависимости от направления запроса. В-третьих, убеждения пользователей по данной теме должны быть достаточно гибкими, чтобы их можно было обновить на основе полученной информации.

"Это означает, что наши результаты могут не применяться в каждой ситуации. Например, если крупное событие создает общий сигнал, каждый может искать, используя один и тот же термин, независимо от своих личных убеждений. Точно так же для тем, где информация дефицитна или уже отфильтрована поисковыми платформами, разные поисковые термины могут привести к тем же сбалансированным результатам. А для политических убеждений, которые определяют личность, люди могут быть крайне устойчивы к изменению своего мнения, независимо от информации, которую они видят."

Тем не менее, выводы указывают на необходимость стратегий дизайна, которые балансируют релевантность с широтой информации. Если настройки по умолчанию наших цифровых инструментов постоянно показывают то, во что мы уже верим, поляризация убеждений может стать более трудной для преодоления.

"Наша общая цель заключается в том, чтобы использовать эти идеи для разработки более здоровой и прочной информационной экосистемы," — объяснила Люнг. "Мы планируем двигаться в нескольких направлениях: во-первых, мы хотим глубже понять психологию ищущего. Нас интересует, кто наиболее восприимчив к этому эффекту и почему. Во-вторых, мы надеемся понять, как применить эти принципы к сильно поляризованным темам и областям, мучимым дезинформацией. Как мы можем разработать системы, которые расширяют взгляды, не усиливая при этом вредный или опасный контент?"

"В конечном итоге, мы надеемся, что эта линия исследований поможет создать новый стандарт для дизайна поисковых систем и ИИ, который по умолчанию учитывает человеческую психологию, создавая более общую фактическую основу для общества."

"Я думаю, что важно понимать, что это не просто о ‘фильтровых пузырях’, создаваемых для нас алгоритмами; это также о тех эхо-камерах, которые мы непреднамеренно создаем сами через наши поисковые привычки," — добавила Люнг. "Хорошая новость заключается в том, что решение не требует от нас перекройки нашего мозга. Вместо этого мы можем внести простые, но мощные изменения в технологию, которую используем каждый день. С помощью продуманного дизайна те же инструменты ИИ и поиска, которые рискуют подтвердить наши предвзятости, могут стать мощными инструментами для расширения наших взглядов и ведения к более информированным решениям.

Исследование «Узкий поисковый эффект и как расширение поиска содействует обновлению убеждений» было проведено Эужиной Люнг и Олегом Урминским.