Почему онлайн-ненависть звучит как дискуссии в психофорумах — неожиданное сходство по версии искусственного интеллекта

Новое исследование, опубликованное в журнале PLOS Digital Health, обнаружило: язык ненависти и дезинформации на Reddit удивительно схож с тем, которым пользуются участники форумов о некоторых психиатрических расстройствах, в первую очередь так называемого «Кластера B» (это включает в себя пограничное, антисоциальное и нарциссическое расстройства личности). Учёные применили современные методы обработки языка и математический анализ данных, чтобы понять — насколько токсичный интернет-дискурс напоминает обсуждения людей с определёнными диагнозами.

Речь идёт об огромном потоке коммуникаций в интернете (особенно на Reddit), который беспокоит всё человечество: ненавистнические слова и дезинформация наносят вполне ощутимый вред — от разжигания предрассудков до реальных последствий для здоровья и эпизодов насилия. Ранее похожие явления связывали с так называемой «Тёмной триадой» личностных черт — нарциссизмом, макиавеллизмом и психопатией, но в фокус современной психиатрии всё чаще попадают именно расстройства Кластера B. В их компании — гиперэмоциональность, импульсивность, проблемы с отношениями, стремление к доминированию и неустойчивая самооценка.

Владельцам подобных диагнозов свойственны резкие перемены эмоций, стремление к вниманию, игнорирование правил, манипуляции, агрессивность, постоянная самооценка "на качелях". Такие черты могут проявляться в враждебном, конфликтном, обвинительном стиле общения — и как раз такой встречается в интернет-хейте.

Но исследователей давно мучает вопрос: неужели языковые паттерны радикального интернет-общения совпадают с проявлениями только определённых психиатрических расстройств или речь о гораздо более широком социальном явлении? Разобраться сложно — объёмы форумов огромны, диагнозы зачастую условны, а психики людей сложны. На помощь пришёл искусственный интеллект и техника topological data analysis: системы вроде GPT-3 "вскрывают" структуру текста, переводя сообщения в сложные векторы взаимосвязей.

Один из авторов работы — врач-психиатр из Бирмингема Эндрю Александер — заметил: в языке агрессивных сообществ много чисто антисоциальных черт. Учёным стало интересно сравниться не только с Кластером B, но и вообще с разными психо-форумами, включая депрессивные и тревожные сообщества. Взяли 54 тематических сабреддита: часть была замечена в хейте и дезинформации (по мнению исследователей и администрации Reddit), часть — форумы самопомощи и поддержки ментального здоровья, контрольные группы — чаты на нейтральные темы.

Для анализа выбрали по 1000 постов из каждого. Все сообщения "перевели" в специальные числовые векторы, отражающие не только общее настроение, но и семантику текста. Далее провели классификацию: модели обучали на форуме про психические расстройства и контрольных сообществах, а затем "скармливали" язык хейт-сообществ и лжефорумов — спросив, кому они ближе лингвистически.

Результаты получились такими: почти 80% «языка ненависти» сильнее всего похожи на язык дискуссий о психических расстройствах, особенно Кластера B (антисоциальное, нарциссическое, пограничное расстройства). Часто совпадения бывали и с шизоидными чертами (это уже Кластер А — склонность к отчуждённости). Дезинформационные форумы показали смешанный результат: только четверть их постов похожа на форумы о тревожных расстройствах, остальные оказались ближе к "нейтралам".

Углублённый анализ позволил даже нарисовать своего рода "языковую карту": психо-форумы в ней оказались плотно связаны с чатами ненависти, а обычные тематические сообщества стояли в сторонке. Причём посты на темы COVID-19 и теорий заговора по тревожности "мостиком" соединялись с сообществами психических заболеваний.

Интересно: если убрать из анализа нарциссические и шизоидные форумы, хейт-посты как бы "переползают" поближе к другим расстройствам Кластера B (например, пограничному) и комплексным посттравматическим расстройствам (CPTSD). Это подтверждает: структура речевых проявлений хейта в соцсетях шире, чем выражение конкретного диагноза — она скорее перекликается с эмоциональной нестабильностью, импульсивностью, враждебностью вообще.

Авторы подчёркивают: никто не утверждает, что люди с диагностированными расстройствами — распространители ненависти; просто лингвистические черты постов удивительно схожи. Причём форумные диагнозы — это еще не медицинская истина, а часто — лишь самоопределение. Вдобавок, всё измерялось на Reddit, а не в других соцсетях.