Лента, которая спорит с вами

Алгоритм социальной сети X может чаще показывать пользователям публикации, противоречащие их заявленным ценностям. К такому выводу пришла международная исследовательская группа; работа опубликована в журнале Proceedings of the National Academy of Sciences (PNAS). Авторы предполагают, что один из возможных источников перекоса — ответы пользователей на не понравившиеся им посты: спор тоже считается активностью, а значит, может подталкивать алгоритм показывать похожий контент чаще.

Социальные платформы используют автоматические системы ранжирования. Они выбирают публикации из общего потока, в том числе от аккаунтов, на которые человек подписан, и формируют персональную ленту. Обычно задача таких систем — удерживать внимание, предсказывая, какие записи вызовут больше взаимодействий.

При этом алгоритмы часто трактуют лайк, репост или комментарий как признак интереса. Но активность не всегда означает одобрение: человек может отвечать на пост потому, что он его раздражает или возмущает. Если система учитывает сам факт реакции, не разбираясь в её причине, она рискует чаще показывать конфликтный контент, а не то, что соответствует убеждениям пользователя.

Исследованием руководили Зив Эпштейн из Массачусетского технологического института и Майкл С. Бернстайн из Стэнфордского университета. Команда сопоставила ценности, которые люди сами называют важными, с темами публикаций, попадающих в их ленты. Для анализа использовали «Теорию базовых человеческих ценностей» социального психолога Шалома Шварца. Эта модель описывает 19 мотиваций, встречающихся в разных культурах: например, стремление к безопасности и порядку, приверженность традициям, открытость переменам и заботу о других.

В исследовании участвовали 715 взрослых жителей США, регулярно пользовавшихся X — платформой, ранее известной как Twitter. Участники установили специальное расширение для браузера, которое фиксировало записи в двух лентах. «Подписки» показывала публикации выбранных пользователем аккаунтов без алгоритмического ранжирования; «Для вас» — персонально отобранные системой посты.

Исследователи применили модель искусственного интеллекта, чтобы определить, какие ценности выражены в текстах публикаций. Затем они сравнили темы в исходном потоке подписок с содержанием алгоритмической ленты и оценили, что система чаще продвигает или, напротив, отодвигает.

В исходном потоке посты в целом соответствовали ценностям, которые участники указали в опросах: люди обычно подписывались на близкие им аккаунты. Но в ленте «Для вас» обнаружилась обратная связь — в среднем алгоритм чаще усиливал содержание, не совпадавшее с заявленными убеждениями пользователей.

На общем уровне система немного чаще поддерживала индивидуалистические, а не коллективистские ценности. В частности, она активнее продвигала темы порядка и сохранения существующего уклада: соблюдение правил, общественную безопасность и традиции. Публикации о самотрансцендентных ценностях — заботе о других, надёжности и сохранении природы — получали меньшее распространение.

Перекос наблюдался у пользователей разных политических взглядов, но у демократов разрыв между их ценностями и темами, которые усиливала лента, был больше.

Чтобы разобраться в возможной причине, команда отдельно изучила действия участников в течение 24 часов после первоначального сбора данных. Исследователи разделили взаимодействия на лайки, репосты и ответы. Лайки и репосты обычно приходились на публикации, соответствовавшие ценностям пользователей, то есть чаще выглядели как одобрение. Ответы были связаны с убеждениями слабее и могли отражать спор или несогласие. Особенно заметно это было у демократов: в среднем их ответы были немного менее согласованы с заявленными ценностями.

Авторы отмечают, что алгоритм X придаёт ответам большой вес при выборе публикаций для продвижения. Поэтому спор с неприятным постом может создать петлю обратной связи: пользователь отвечает, система видит активность и показывает ему больше похожего материала. В результате лента может заполняться тем, что провоцирует реакцию, а не тем, с чем человек согласен.

В последнем анализе исследователи рассмотрели совокупные показатели вовлечённости публикаций на платформе. В целом популярные записи чаще соответствовали ценностям республиканцев. Авторы предполагают, что правые пользователи могут чаще встречать близкий им контент без необходимости вступать в конфликтные переписки, которые, возможно, сильнее влияют на ленты левых пользователей.

Исследование основано на наблюдениях: учёные фиксировали естественное поведение пользователей, но не меняли алгоритм в контролируемом эксперименте. Поэтому работа не доказывает, что именно спорные ответы вызывают несоответствие ленты ценностям. Чтобы установить причинно-следственную связь и проверить, насколько результат устойчив для разных групп, нужны эксперименты и исследования на более крупных выборках.

Авторы считают, что результаты ставят вопрос о том, какое поведение должны поощрять системы ранжирования. Если алгоритм учится прежде всего на конфликтах и спорах, он может создавать ленты, которые противоречат предпочтениям самих пользователей.

Исследование «Несоответствие ценностей в алгоритмической ленте X отражает напряжённость ценностей во взаимодействиях» подготовили Зив Эпштейн, Фарназ Джаханбахш, Тициано Пиккарди, Аксель Пейтавин, Изабель Гальегос, Шардул Сапкота, Дора Чжао, Йохан Угандер и Майкл С. Бернстайн.