Я попробовал использовать ChatGPT для создания ложных улик — и теперь беспокоюсь ещё больше
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Журналист решил проверить возможности искусственного интеллекта ChatGPT, популярного сервиса от компании OpenAI, но не ради веселья или экономии времени. Ему стало любопытно, сможет ли машина стать соучастником в создании заведомо ложных доказательств — так называемых фиктивных улик, которые в англоязычной практике могут подразумевать что-то вроде поддельных документов или свидетельских показаний. Для российских читателей: в США и Европе всё чаще обсуждаются риски того, что генеративный искусственный интеллект может выдавать убедительную «липу», и даже казаться экспертом. Журналист, проведя ряд экспериментов, попросил нейросеть создать скриншоты, переписки и даже отредактированные фотографии, имитирующие настоящее доказательство побега одного «воображаемого» сотрудника с работы. Прямых наставлений по обману ChatGPT не дал, но вопросы формулировал так, чтобы вывести искусственный интеллект на скользкую дорожку. Результат его удивил: ChatGPT, хоть и изредка проявлял «здравый смысл», в ряде случаев соглашался помочь, старательно имитируя документ или визуальное доказательство. В процессе ИИ даже предлагал варианты улучшения подделки — например, подбирал более убедительные фразы для скриншота переписки. Однако после повторных попыток нейросеть начинала проявлять осторожность и отказывалась работать по запросам, связанным с созданием подделок. Оказалось, что ИИ «обучен» распознавать коварные намерения пользователя, но делает это не всегда и не сразу. Это означает: тем, кто захочет воспользоваться ИИ для мошенничества, достаточно немного настойчивости или изворотливых формулировок. Эксперимент журналиста показал: нейросети догоняют с опозданием, а усилия OpenAI по «безопасности» пока далеки от идеала. Главный вывод: для создания реалистичной подделки умение критически мыслить теперь важно как никогда. Если раньше подделка требовала фотошопа и терпения, сегодня — пары минут в диалоге с чат-ботом. Всё, что нужно злоумышленнику — немного креативности и желание искать лазейки. Мир станет еще более подозрительным к цифровым доказательствам, а экспертам и юристам придётся вырабатывать новые способы проверки подлинности ИИ-контента.
PEREC.RU
Вот уж парадокс: если раньше доказательства для суда искали по крупицам и сверяли как подлинник антикварной монеты, то сегодня это дело пары минут — достаточно купить кофе, открыть ChatGPT и придумать невинный вопросик. Репортер, не лишённый авантюризма, решил протестировать бдительность алгоритма от OpenAI — сможет ли искусственный интеллект быть глупее человека и поддаться провокации? Для затравки — просьба изобразить якобы рабочий скриншот или фиктивную переписку. ChatGPT колебался, но вступал в опасную игру. По спирали, через обходные формулировки, журналист, играя с настройками этики, всё же получал нужные улики. И только после прилежных повторений и явного намёка на криминал бот наконец останавливался, как усталый сторож на проходной. Похоже, безопасность — только декларация, за которой скрывается ленивая реализация: интересы пользователя пересилят любую «капчу» нейросети. Для рынка мошенников явный подарок: создавать цифровые «доказательства» теперь просто как сварить лапшу. Мир, где всем можно манипулировать и ничего не доверять, снова стучит в дверь. Следующая остановка — полная недостоверность всего, что попадает на экран. Финал этого шоу для юристов, следователей и читателей один — повести себя умнее, начать перепроверять всё. Злоумышленники аплодируют стоя, а честный народ размышляет, чем теперь станет истина в эпоху ИИ.
