Нейросеть надела маску правды
Следите за новостями по этой теме!
Подписаться на «Психология / Научные исследования»
Исследование, опубликованное в журнале Computers in Human Behavior, показало: эмоционально окрашенные изображения, созданные искусственным интеллектом, могут заставлять пользователей соцсетей реагировать прежде, чем они успеют проверить, настоящая ли перед ними сцена.
Сегодня реалистичные картинки можно создавать быстро, дёшево и в больших количествах. Затем их публикуют вместе с трогательными или возмущающими подписями через автоматизированные страницы и контентные фермы. Цель обычно прозаична: привлечь внимание, получить рекламный доход или увеличить число реакций.
Изображения особенно удобны для такой манипуляции. Человек воспринимает картинку быстрее, чем успевает изучить детали, а лица, дети, пожилые люди и сцены бедности сразу вызывают сочувствие, гнев или восхищение. Эмоция, как это часто бывает, выходит на сцену первой, а критическое мышление запаздывает.
Марк Мишкольци из Университета Корвинуса в Будапеште изучил открытые публикации Facebook, собранные с 1 марта по 1 мая 2025 года. В выборку вошли 146 изображений, созданных ИИ, и 8 922 комментария пользователей.
Исследователь отобрал 12 публичных страниц, регулярно размещавших предположительно синтетические изображения. Темы включали ностальгию, сельскую жизнь, пожилых людей, духовность, бытовые трудности и семейные отношения. Каждую картинку проверяли вручную по восьми признакам: искажённая анатомия, странные лица, парящие предметы, невозможные отражения, испорченные надписи и неестественные текстуры. Дополнительно применялся онлайн-детектор ИИ; в итог попали изображения с вероятностью искусственного происхождения не менее 60%.
Первоначально исследователь собрал 11 547 комментариев. После удаления сообщений, предположительно написанных автоматическими аккаунтами, осталось 9 082. Ещё 160 бессодержательных или незавершённых комментариев исключили, и для качественного анализа осталось 8 922 сообщения.
В изображениях выявили пять основных тем: эмоции и ностальгия; сочувствие и сострадание; необычные достижения и хобби; дни рождения и социальные проблемы; религия и духовность. Чаще всего пользователи поздравляли с днём рождения — 1 980 комментариев, или 22,19%. Вдохновляющие сообщения и слова поддержки составили 1 802 комментария, или 20,20%. Религиозные публикации получили 1 490 комментариев — 16,70%.
Многие люди отвечали так, словно на картинках действительно были реальные люди и события: жалели пожилых, вспоминали детство, поздравляли героев и писали религиозные пожелания. Учёный связал такие реакции с когнитивными искажениями — устойчивыми ошибками мышления.
Например, подтверждающее искажение помогает принять изображение, если оно совпадает с уже существующими убеждениями. Эффект якоря делает первой эмоциональной реакции слишком влиятельной. Знакомая тема кажется более правдоподобной, а множество одобрительных комментариев создаёт иллюзию общественной проверки: раз все поддерживают, значит, так оно и было.
Особенно сильные реакции вызывали изображения пожилых людей, ностальгических воспоминаний и предполагаемой заброшенности. Возмущение также подталкивало пользователей писать комментарии и одновременно отвлекало их от визуальных ошибок. При этом публикации о межэтнических конфликтах и забытых днях рождения иногда встречали больше скепсиса или вызывали меньше отклика.
Мишкольци пришёл к выводу, что ИИ-изображения используют уязвимости пользователей, а эмоциональная вовлечённость вместе с когнитивными искажениями снижает способность к критической проверке.
Однако исследование имеет ограничения. Оно охватывало только открытые материалы Facebook и не показывает, как пользователи других платформ или культур реагируют на такие картинки. Методики ручного поиска ИИ-изображений и автоматических комментариев пока не прошли внешнюю проверку. Кроме того, когнитивные искажения выводились из текста комментариев, а не измерялись напрямую в экспериментах. Поэтому нельзя точно сказать, сколько людей действительно поверили картинкам, кто отвечал иронично и изменились ли после публикаций их взгляды или поведение.
Работа называется «Иллюзия реальности: как изображения, созданные ИИ, обманывают пользователей социальных сетей». Её автор — Марк Мишкольци.
PEREC.RU
Учёные проверили, почему пользователи Facebook верят эмоциональным изображениям, созданным искусственным интеллектом, даже когда в них есть заметные визуальные ошибки. Исследование Марка Мишкольци из Университета Корвинуса в Будапеште опубликовано в журнале Computers in Human Behavior.
Исследователь изучил публичные материалы Facebook, собранные с 1 марта по 1 мая 2025 года. В выборку вошли 146 изображений, предположительно созданных ИИ, и 8 922 пользовательских комментария. Материалы были размещены на 12 публичных страницах, посвящённых ностальгии, сельской жизни, пожилым людям, духовности, семейным отношениям и бытовым трудностям.
Изображения отбирали в несколько этапов. Сначала их вручную проверяли по восьми признакам синтетического происхождения: искажённой анатомии, необычным деталям лица, парящим предметам, невозможным отражениям, деформированным надписям и неестественным текстурам. После этого использовали онлайн-детектор ИИ и оставляли картинки с вероятностью искусственного происхождения не менее 60%.
Изначально было собрано 11 547 комментариев. После удаления сообщений, предположительно созданных автоматическими аккаунтами, осталось 9 082 комментария. Ещё 160 сообщений исключили как бессодержательные или незавершённые. В результате для качественного анализа использовали 8 922 комментария.
В публикациях выделили пять тем: эмоции и ностальгия; сочувствие; необычные достижения и хобби; дни рождения и социальные проблемы; религия и духовность. Наиболее частой реакцией стали поздравления с днём рождения — 1 980 комментариев, или 22,19%. Вдохновляющие сообщения и слова поддержки составили 1 802 комментария, или 20,20%. Религиозные комментарии заняли третье место — 1 490 сообщений, или 16,70%.
Многие пользователи воспринимали изображённые события и людей как реальные. Они выражали сочувствие пожилым, делились воспоминаниями о детстве, поздравляли персонажей и писали религиозные пожелания. По мнению исследователя, на эти реакции могли влиять когнитивные искажения — устойчивые способы ошибочного мышления.
Подтверждающее искажение заставляет человека охотнее верить информации, которая совпадает с его убеждениями. Эффект якоря делает первой эмоциональной реакции более сильной, чем последующая проверка деталей. Знакомые сюжеты кажутся правдоподобными, а множество поддерживающих комментариев создаёт ощущение, будто публика уже проверила содержание.
Самые сильные реакции вызывали изображения пожилых людей, ностальгии и предполагаемой заброшенности. Возмущающие сюжеты стимулировали обсуждение и одновременно отвлекали от визуальных несоответствий. Однако изображения, связанные с межэтническими конфликтами и забытыми днями рождениями, иногда встречали больший скепсис или вызывали меньше откликов.
Автор заключил, что ИИ-изображения могут использовать эмоциональные уязвимости пользователей. Эмоциональная вовлечённость в сочетании с когнитивными искажениями снижает готовность критически оценивать увиденное.
При этом работа не доказывает, что каждый комментатор действительно поверил изображению. Исследование ограничено открытым Facebook и может не отражать поведение пользователей других платформ или культур. Методики поиска ИИ-изображений и автоматических комментариев пока не прошли внешнюю проверку. Кроме того, искажения выводились из содержания комментариев, а не измерялись напрямую в эксперименте. Поэтому нельзя точно установить, кто поверил картинке, кто отвечал иронично и изменились ли под влиянием публикаций взгляды или поведение пользователей.
