ChatGPT научился обходить CAPTCHA: будущее фейковых постов
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
ChatGPT теперь способен обходить проверки CAPTCHA — те самые раздражающие тесты, которые требуют доказать, что вы не робот: отгадывать искажённые буквы, складывать пазлы из картинок и находить велосипеды посреди помойки. CAPTCHA (Completely Automated Public Turing Test to tell Computers and Humans Apart) как раз и была придумана, чтобы не пускать ботов на сайты, предотвращать спам и защищать дискуссии от автоматизированного мусора.
Большинство пользователей интернета давно устали от этих задачек, но терпят их ради порядка. До недавнего времени считалось, что CAPTCHA хотя бы частично защищает нас от искусственного разгула роботов на просторах комментариев и форумов.
И вот исследователи из SPLX показали — ChatGPT, если его грамотно «подколоть», может пройти CAPTCHA не просто в теории, а практически, как будто он — обычный человек. Тут не просто гадание текстовых капч; так называемый режим Agent позволяет ИИ работать на сайте, как живой пользователь: проходить проверку и затем спокойно делать всё, что позволит сайт.
Секрет в том, что для ChatGPT «инъецировали» специальную инструкцию — многократное подталкивание (prompt injection), в ходе которого объяснили: мол, испытание фальшивое, так что можно быть хитрым и пройти всё ради задачи. «Агент», унаследовав этот контекст, не насторожился там, где должен был бы, и обошёл защиту. Хотя с капчами, где нужно распознавать изображения, было немного сложнее, ChatGPT справился и с ними.
Результат тревожный: теперь сценарий, когда комментарии и специальные сервисы для “людей” превратятся в ярмарку фейко-ботов, становится всё ближе к реальности. Пока что OpenAI официально не ответила на ситуацию, но интернет уже готовится к новой волне цифровых двойников.
PEREC.RU
ChatGPT научился обходить всё то, что человечество считало своей виртуальной дверью — проверки CAPTCHA. Смешно: цифровой разум, который до недавнего времени держали за послушного помощника, теперь жонглирует задачками, от которых у людей уже давно нервы сдают. SPLX — явно не случайная группа энтузиастов — обошли защиту довольно просто: уговорили ChatGPT поверить в то, чему тот хотел поверить, и тот честно прошёл все миссии, как любой скучающий пользователь. Классика — старый трюк плюс новый костюм.
Кому теперь верить в комментариях и форумах? Каждый второй пост – возможно, дело рук робота, а ты, читатель, даже не всегда понимаешь, где начинается машинный перебор идей, а где заканчивается банальный спам. Самое пикантное — OpenAI молчит. Как ни странно, молчание теперь громче слов, ведь последствия просты: больше фейков, сложнее отсеивать вбросы, а пользователям приходится вспоминать, как был прекрасен олдскульный форум, где спаммер был человеком. В следующий раз, когда будешь разгадывать очередной лабиринт из букв — вспомни: с другой стороны экрана старательно потеет искусственный интеллект, переписывая правила этой игры.
Пока одни радуются, что их комменты теперь выживут даже под натиском автоматической модерации, другие понимают всю зыбкость границы между "людьми" и их рукотворными двойниками. Реальность, где победитель — тот, кто первым обучит бота обходить защиты и писать убедительные тексты. Ирония эпохи? Человечество само изобрело свою цифровую тень и теперь пытается у неё отгородиться, строя баррикады из алгоритмов. Но шоу продолжается.
