Мемы как индикаторы будущего веселья: насилие в кубе! 😂

Мемы могут служить сильными индикаторами надвигающегося массового насилия
Представьте себе страну с глубокими политическими расколами, где разные группы не доверяют друг другу, и насилие кажется вероятным. А теперь представьте поток политических изображений, ненавистных мемов и насмехающихся видео от отечественных и иностранных источников, захватывающих социальные сети. Что, по вашему мнению, произойдет дальше?
Широкое использование социальных сетей в период политических волнений и насилия усложняет предотвращение конфликтов и построение мира. Социальные сети меняются, возникают новые технологии и стратегии, позволяющие влиять на мнения людей в условиях политических кризисов. Это включает в себя новые способы поддержки идеологий и целей, получения поддержки, дегуманизации противников, оправдания насилия и создания сомнений или игнорирования неудобных фактов.
Тем временем сами технологии становятся все более совершенными. Социальные сети все чаще используют изображения: мемы, видео и фотографии – отредактированные или нет, – которые оказывают большее влияние на людей, чем просто текст.
Системам ИИ труднее понимать изображения по сравнению с текстом. Например, проще отслеживать посты, говорящие "Украинцы - нацисты", чем находить и понимать поддельные изображения, на которых украинские солдаты с нацистскими символами. Но такие изображения становятся все более распространенными. Как говорится, картинка стоит тысячи слов, и мем стоит тысячи твитов.
Наша команда компьютерных и социальных ученых решила задачу интерпретации визуального контента, объединив методы искусственного интеллекта с экспертами по предмету, чтобы изучить, как визуальные посты в социальных сетях меняются в условиях высокого риска. Наши исследования показывают, что именно изменения в постах в социальных сетях, особенно с изображениями, служат сильными индикаторами надвигающегося массового насилия.
Наш недавний анализ обнаружил, что за две недели до вторжения России в Украину в 2022 году произошло почти 9000% увеличение числа постов и более чем 5000% увеличение манипулированных изображений от российских военных блогеров. Военные блогеры – это блогеры, сосредотачивающиеся на текущих военных конфликтах.
Эти колоссальные увеличения показывают, насколько интенсивной была онлайн-пропаганда России и как она использовала социальные сети для влияния на общественное мнение и оправдания вторжения.
Это также показывает необходимость лучше мониторить и анализировать визуальный контент в социальных сетях. Для проведения нашего анализа мы собрали всю историю постов и изображений из учетных записей 989 российских военных блогеров в мессенджере Telegram. Это включает почти 6 миллионов постов и более 3 миллионов изображений. Каждый пост и изображение были временно помечены и классифицированы для удобства анализа.
Ранее мы разработали набор инструментов ИИ, способных выявлять изменения и манипуляции с изображениями. Например, одно обнаруженное изображение показывает прокремлевский мем, высмеивающий анти-путинского журналиста и бывшего русского солдата Аркадия Бабченко, чья смерть была инсценирована украинскими спецслужбами, чтобы разоблачить заговор против него.
Мем содержит фразу "геймеры не умирают, они воскресают", отсылая к персонажам видеоигр, которые возвращаются к жизни после смерти. Это высмеивает положение Бабченко и иллюстрирует использование манипулированных изображений для передачи политических сообщений и влияния на общественное мнение.
Это лишь один пример из миллионов изображений, которые были стратегически изменены для продвижения различных нарративов. Наш статистический анализ показал массовое увеличение как числа изображений, так и степени их манипуляций перед вторжением.
Несмотря на то, что эти системы ИИ очень хорошо находят подделки, они не способны понять политический контекст изображений. Поэтому крайне важно, чтобы ученые ИИ работали в тесном сотрудничестве с социологами для правильной интерпретации этих находок.
Наши системы ИИ также классифицировали изображения по сходству, что позволило экспертам по предмету дальше анализировать кластеры изображений на основе их нарративного содержания и культурного и политического значения. Это невозможно сделать в большом масштабе без поддержки ИИ.
Например, поддельное изображение президента Франции Эммануэля Макрона с украинским губернатором Виталием Кимом может ничего не значить для ученого ИИ. Но для политологов это изображение, похоже, восхваляет необычайную смелость украинцев по сравнению с иностранными лидерами, которые, казалось, испугались российских ядерных угроз. Цель заключалась в том, чтобы укрепить подозрения украинцев в отношении их европейских союзников.
Переход к визуальным СМИ в последние годы приносит новый тип данных, которые исследователи еще не изучали подробно.
Изучение изображений может помочь исследователям понять, как противники представляют друг друга и как это может привести к политическим конфликтам. Изучая визуальный контент, исследователи могут увидеть, как распространяются истории и идеи, что помогает нам понять психологические и социальные факторы, которые участвуют.
Это особенно важно для поиска более передовых и тонких способов влияния на людей. Такие проекты также могут способствовать улучшению усилий раннего предупреждения и снизить риски насилия и нестабильности.

Эта статья опубликована The Conversation по лицензии Creative Commons. Прочитайте оригинальную статью.