Когда дипфейки становятся невыносимыми: как студент создал очередной шедевр дезинформации

Домашние политические дипфейки могут ввести избирателей в заблуждение, но не всегда обгоняют простую текстовую дезинформацию. Исследование, проведенное в Ирландии, показало, что политическая дезинформация в виде дипфейков, созданных студентом, снижала готовность зрителей голосовать за мишеней. Однако эти дипфейки не всегда были более эффективными, чем та же дезинформация, представленная в виде простого текста. Результаты были опубликованы в журнале "Прикладная когнитивная психология".

Дипфейки — это синтетические медиа, созданные с использованием искусственного интеллекта, чтобы заменить облик или голос одного человека другим, чаще всего в видео или аудиозаписях. Они используют технологии глубокого обучения для создания высокореалистичных подделок. Политические дипфейки связывают с изменением видео или выступлений публичных фигур, чтобы заставить их казаться таковыми, как будто они говорили или делали вещи, которых на самом деле никогда не произносили и не делали.

Такой контент может использоваться для распространения дезинформации, манипуляции общественным мнением или подрыва доверия к институтам. Политические дипфейки представляют особенно серьёзную опасность во время выборов, протестов или в период международных кризисов. Их бывает сложно обнаружить, особенно когда они широко распространяются через социальные сети. Пока некоторые дипфейки явно помечены как пародия или сатира, другие призваны ввести в заблуждение, подстрекать к конфликту, недоброжелать оппонентам или подрывать демократические процессы.

Автор исследования Джилиан Мерфи и ее коллеги решили выяснить, насколько эффективны любительские политические дипфейки — те, что созданы «средним человеком». Для этого команда задействовала студента (одного из соавторов исследования) и попросила его создать самые убедительные дипфейки, которые он мог, используя только доступные онлайн инструменты и информацию. Он не получал специального обучения или оборудования.

Исследователи хотели оценить, как эти дипфейки влияли на формирование ложных воспоминаний (т.е. заставляя зрителей помнить дипфейковые события как реальные), политические мнения и намерения голосовать. Они также проверяли, подозревали ли участники контент и смогли ли они правильно определить, какие истории были фальшивыми.

В исследовании приняли участие 443 участника, которые были набраны через Prolific и университетские рассылки. Средний возраст составил 38 лет, и 60% из них были женщинами. Все участники были носителями английского языка, проживающими в Ирландии.

Студенту было поручено создать несколько дипфейков с вымышленными историями о ирландских политиках. Сценарии были спроектированы так, чтобы быть правдоподобными, но наносящими ущерб репутации политиков. Целями стали Саймон Харрис, текущий Танаист (заместитель премьер-министра), а также Мэри Лу Макдональд, лидер оппозиции.

Участники сначала увидели правдивую историю о том, как премьер-министр Михал Мартин посетил Газа. За ней последовала одна из вымышленных историй с дипфейком и вторая правдивая история об другом политике. Эти реальные истории служили контролем, чтобы измерить, как ложный контент повлиял на восприятие целевых политиков. Дипфейки были представлены в трех форматах: только аудио, видео (с изображением, заголовком и текстом) и только текст.

После каждой новости участников спрашивали, помнят ли они событие (чтобы измерить ложные воспоминания), и оценить свои политические мнения (например, «Я лично люблю [политика]») и намерения голосовать («Я проголосовал бы за [политика], если бы мог»). Как только все истории были представлены, участники отвечали, подозревали ли они, что какие-то истории были ложными, и могли ли они определить, какие из них были фальшивыми.

Через неделю участники, набранные через Prolific, были приглашены для участия в дополнительном исследовании. Это второе исследование было почти идентично, но включало обе фальшивые истории из первого исследования, повторяемую историю-заполнителем и одну новую. Эта схема помогла исследователям оценить, сохранялись ли эффекты дезинформации со временем.

Результаты первого исследования показали, что 6% участников ложно вспомнили подделанное событие, когда оно было представлено в текстовом формате. Это число возросло до 14% для аудио- или видео-дипфейков и 25%, когда дипфейк был создан с использованием платного сервиса (что привело к более высокому качеству). Влияние дипфейков на политические настроения в целом было скромным и отсутствовало для одной из двух историй.

В случае с Саймоном Харрисом, дипфейк, созданный с использованием платного сервиса, снизил желание участников голосовать за него на 23%, в то время как версия только с аудио снизила его на 31%. В отличие от этого, дипфейки, направленные на Мэри Лу Макдональд, не оказали влияния на намерения голосовать.

Примерно 14% участников правильно угадали, что исследование посвящено дезинформации. В зависимости от истории, 76% до 78% участников правильно определили фальшивые истории как фальшивые. Однако 33% также неверно определили правдивую заполненную историю как фальшивую, что свидетельствует о некоторой путанице или повышенном скептицизме.

В дополнении ко второму исследованию, от 86% до 92% участников смогли правильно определить фальшивую историю из первого исследования в зависимости от того, видели ли они ее ранее.

«В целом, текущее исследование служит лакмусовой бумажкой для доступности и мощности технологий дипфейков на сегодняшний день. Мы призываем других исследователей оставаться критичными и основанными на фактах в своих утверждениях о новых технологиях и избегать дистопичных нарративов о том, что новая технология «может» сделать в ближайшем будущем, когда они делают утверждения о том, что эта технология может сделать сегодня», заключили авторы исследования.

Исследование проливает свет на эффекты дипфейков на политические мнения зрителей. Однако важно признать ограничения. Участники были подвергнуты воздействию всего одного дипфейка (в первом исследовании) или двух дипфейков (во втором исследовании), направленных на разных политиков. Это отличается от реальных ситуаций, где дезинформация — включая дипфейки — часто повторяется на различных платформах, выглядит так, будто приходит из различных источников и усиливается со временем.

Статья «Средний человек, ноутбук и мечта: оценка эффективности домашних политических дипфейков» была написана Джилиан Мерфи, Дидье Чингом, Эоганом Миханом, Джоном Туоми, Аароном Болгером и Конором Лайнаханом.