Как честные новости превращают в ложь: учёные разоблачили хитрую схему дезинформации

Новый научный труд поставил на уши привычные мифы о борьбе с фейками. Оказывается, «оружием массовой дезинформации» могут служить не только подозрительные сайты и непонятные блогеры, но и проверенные временем СМИ. Учёные выяснили: пользователи соцсетей, специализирующиеся на распространении недостоверной информации, активно делятся статьями с громкими заголовками даже от уважаемых изданий. Правда, выдранная из контекста, становится идеальным аргументом для фейков — и этим активно пользуются не самые добросовестные граждане.

В журнале Nature Human Behaviour опубликовано исследование, где социологи показали: всё сложнее просто отслеживать «плохие» источники. Внутри сети нет чёткой грани между вымышленным и реальным. Любая настоящая история из серьёзного издания может быть вырвана из контекста и продана под чужим соусом. Возглавил работу Пранава Гоэль (Северо-Восточный университет, США) — вместе с коллегами из Дьюкского, Гарвардского и Мэрилендского университетов.

Команда исходила из простой мысли: пользователи соцсетей не живут фактами, а целыми историями, зачастую — в интересах своих политических взглядов. Их гипотеза: если уважаемые СМИ публикуют материал, который удобно перекроить под новую дезинформацию — фейки тут как тут. Для проверки теории проанализировали огромный массив публикаций в Twitter (ныне X) с мая 2018 по ноябрь 2021 года. Аккаунты сверяли с базой американских избирателей, чтобы отсеять ботов и получить данные о демографии.

Сначала вычислили особо ярых поклонников фейковых сайтов — по оценкам организации NewsGuard, класифицирующей «фейковые» домены. Потом пытались понять: а какими ещё публикациями эти же люди любят делиться? Так обнаружили статьи ведущих СМИ, которые активно «шли в паре» с фейками. Между такими статьями и фейк-материалами построили сеть взаимосвязей — и рассчитали «индекс совместного распространения» для каждой серьезной публикации.

Материалы с высоким «индексом» массово появлялись у тех же людей, кто толкал дезинформацию. Для чистоты эксперимента сделали контрольную группу — отобрали статьи тех же СМИ, которые не пользовались спросом у фанатов фейков.

Следующий шаг — автоматический анализ содержания с помощью программы, способной вычленять типовые нарративы (сюжетные схемы): что, кто, кому, почему. Программа сначала «прочесала» тысячи заведомо ложных публикаций и фраз, прошедших через фактчекинг, составив список нарративов, свойственных дезинформации.

Главный вывод: статьи из солидных СМИ, которые активно «перепаковываются» с фейками, действительно чаще содержат эти подозрительные нарративы — даже если редакция придерживается иной политической позиции, а не просто «свои делятся со своими». Это не случайный перекос, а продуманная тактика.

Авторы приводят типичный пример: статья The Washington Post «Вакцинированные теперь составляют большинство жертв COVID». Факт точный, но в статье не говорится, что значительная часть населения к тому времени была вакцинирована, поэтому и абсолютных чисел смертей среди привитых просто больше. Без этой оговорки — идеальная зацепка для противников вакцинации, которые используют солидный источник для подкрепления мифа о «неполезных прививках».

Другой приём — поиск старых новостей: например, репост статьи The New York Times 2012 года о корректности почтового голосования. Внешне нейтральный материал превратился в 2020 году в «доказательство» теории о фальсификациях на выборах. Старый линк вдруг ожил, легитимизируя беспочвенные обвинения.

Отдельная находка — кликбейтные заголовки. Даже если в тексте объясняется вся сложность, яркое название моментально выходит на передний план и подгоняется под нужный фейк.

Интересный момент: аудитория таких «мостовых» статей заметно шире, чем у откровенных фейков. Любители совмещённых материалов вдвое популярнее любителей чистых фейков по числу подписчиков. Это значит — попытка протащить ошибочные нарративы, манипулируя респектабельными СМИ, может влиять на куда более широкую публику.

Учёные честно признают недостатки: отслеживали только тексты статей, а не то, как их комментировали в Twitter (X). Возможны редкие случаи, когда публикацией делились, чтобы критиковать. Однако выборочное ручное изучение показало — таких твитов крайне мало, гораздо чаще материал использован именно для поддержки искажённой картины.

Автоматический анализ работал на уровне предложений, мог упустить нюансы (например, если опровержение выводится не сразу, а только в следующем абзаце). Следующий логичный шаг — анализ сопровождения и цитирования в соцсетях: как конкретно комментируют, где обрывают или искажают. Кроме того, стоит выяснить: встречаются ли «опасные» нарративы только в цитатах экспертов или же формулируются журналистом.

Авторы отмечают: нынешняя система проверки информации требует доработки. Одного фактчекинга мало, необходимо думать, как история, особенно её заголовок, сыграет во внешнем информационном поле. Правда — не всегда защита от манипуляции.

Исследование «Использование совместного распространения для выявления эксплуатации мейнстримных новостей в продвижении потенциально вводящих в заблуждение нарративов» подготовили Пранава Гоэль, Джон Грин, Дэвид Лазер и Филип С. Резник.