Почему изображения ИИ сбивают с толку и дезинформируют: шутка или реальность?

Когнитивный психолог объясняет, почему изображения, созданные ИИ, обманывают так много людей.
Я больше скроллю, чем публикую что-то в соцсетях. Как и многие, я заканчиваю день прокруткой ленты, просматривая видео, как итальянские бабушки лепят пасту или детёныши карликовых гиппопотамов резвятся.
Как-то время мой новостной поток был заполнен безупречно оформленными крошечными домами, подпитывая мою жажду минималистического рая. Затем я стал видеть изображения, созданные ИИ; многие из них имели очевидные ошибки, такие как лестницы в никуда или раковины внутри раковин. Однако комментаторы редко их замечали, вместо этого восхищаясь эстетикой.
Эти изображения были явно сгенерированы ИИ и не отражали реальность. Люди просто не замечали? Не заботились?
Как когнитивный психолог, я бы предположил "да" и "да". Моя экспертиза касается того, как люди обрабатывают и используют визуальную информацию. Я в основном исследую, как люди ищут объекты и информацию визуально, начиная от обыденных поисков в повседневной жизни, таких как попытки найти уроненную серьгу, и заканчивая более критическими поисками, такими как исследования, проводимые радиологами или командами по поиску и спасению.
С пониманием того, как люди обрабатывают изображения и замечают - или не замечают - детали, не вызывает у меня удивления, что многие не обращают внимания на тот факт, что многие изображения созданы ИИ.
Проблема с обнаружением изображений, созданных ИИ, напоминает прошлые проблемы, такие как распознавание фото, отредактированных с помощью Photoshop, или компьютерной графики в фильмах.
Но есть ключевое различие: редактирование фотографий и компьютерная графика требуют преднамеренного дизайна художников, в то время как изображения, генерируемые ИИ, получаются алгоритмами, обученными на наборах данных, часто без контроля со стороны человека. Отсутствие контроля может привести к недостаткам или несоответствиям, которые могут показаться неестественными, такими как нереалистичная физика или отсутствие последовательности между кадрами, что иногда называют "плохим ИИ".
Несмотря на эти различия, исследования показывают, что людям сложно различать реальные изображения и синтетические, независимо от их происхождения. Даже когда их прямо просят определить изображения как реальные, синтетические или созданные ИИ, точность колеблется на уровне случайности, что значит, что люди справляются лишь немного лучше, чем если бы они просто угадали.
В повседневных взаимодействиях, когда вы не активно scrutinize изображения, ваша способность обнаруживать синтетический контент может быть еще хуже.
Чтобы обнаружить ошибки на изображениях, созданных ИИ, необходимо заметить мелкие детали, но человеческая визуальная система не настроена на это, когда вы просто скроллите. Вместо этого, находясь в сети, люди воспринимают суть того, что они видят, и могут упустить тонкие несоответствия.
Визуальное внимание работает как зум-объектив: вы сканируете вширь, чтобы получить общее представление об окружающей среде или экране вашего телефона, но для мелких деталей требуется сосредоточенное усилие. Человеческая перцептивная система эволюционировала, чтобы быстро оценивать окружающую среду на предмет угрозы существованию, быть чувствительным к внезапным изменениям, например к быстро движущемуся хищнику — жертва скорости обнаружения страдает в точности.
Эта торговля скоростью и точностью позволяет быстро и эффективно обрабатывать информацию, что помогало нашим предкам выживать в естественных условиях. Но это не подходит для современных задач, таких как пролистывание устройств, где мелкие ошибки или необычные детали в изображениях, созданных ИИ, могут легко ускользнуть от внимания.
Люди также упускают вещи, на которые они не обращают активного внимания или не ищут. Психологи называют это "слепотой внимания": сосредоточение на одной задаче заставляет вас упустить другие детали, даже очевидные. В знаменитом исследовании "невидимого гориллы" участники, которым было поручено посчитать передачи мяча в видео, не заметили человека в костюме гориллы, проходящего через центр сцены.
Аналогично, когда ваше внимание сосредоточено на широкой теме изображения, созданного ИИ, например, на уютном маленьком доме, вам будет менее вероятно заметить тонкие искажения. В каком-то смысле, шестой палец на изображении ИИ — это современный невидимый горилла — прячется на виду потому, что вы не ищете его.
Наши когнитивные ограничения выходят за пределы визуального восприятия. Человеческое мышление использует два типа обработки: быстрое, интуитивное мышление, основанное на умственных ярлыках, и более медленное, аналитическое мышление, которое требует усилий. Когда мы скроллим, наша быстрая система, вероятно, доминирует, заставляя нас принимать изображения за чистую монету.
К тому же, есть склонность искать информацию, подтверждающую ваши убеждения, или отвергать информацию, которая идет им вразрез. Это означает, что изображения, созданные ИИ, с большей вероятностью проскользнут мимо вас, когда они соответствуют вашим ожиданиям или мировоззрению. Если ИИ-созданное изображение баскетболиста, забрасывающего невозможный мяч, соответствует радости фаната, они могут его принять, даже если что-то кажется преувеличенным.
Хотя это не проблема для эстетики маленьких домов, эти вопросы становятся тревожными, когда изображения, созданные ИИ, могут быть использованы для влияния на общественное мнение. Например, исследования показывают, что люди склонны считать, что изображения имеют отношение к сопровождающему тексту. Даже когда изображения не предоставляют никаких фактических доказательств, они делают людей более склонными принимать утверждения текста как истинные.
Обманчивые реальные или сгенерированные изображения могут сделать ложные утверждения более правдоподобными и даже заставить людей неправильно запомнить реальные события. Изображения, созданные ИИ, обладают силой формировать мнения и распространять дезинформацию такими способами, с которыми трудно бороться.
Пока ИИ становится лучше в распознавании ИИ, людям нужны инструменты, чтобы делать то же самое. Вот как:
Изображения, созданные ИИ, становятся все труднее заметить. Во время пролистывания мозг быстро обрабатывает визуалы, а не критически, что делает легко упустить детали, которые выдают подделку. По мере усложнения технологий, снижайте скорость, смотрите внимательнее и думайте критически.