AI-браузеры и новые просторы для мошенников

AI-браузеры могут стать настоящей находкой для мошенников. Мы уже сталкивались с использованием искусственного интеллекта в обманах: от дипфейков с участием знаменитостей в Facebook до хакеров, которые маскируются под чиновников. Однако теперь появилась новая угроза — сами AI оказываются удивительно легкой добычей для старых добрых интернет-мошенников.

Доклад под названием «Scamlexity», подготовленный кибербезопасной стартап-компанией Guardio, обращает внимание на этот аспект. Guardio выпускает расширения для браузеров, которые ловят мошеннические схемы в реальном времени. Исследование сосредоточено на так называемых агентных AI-браузерах: например, Opera Neon, которые сами ходят по Интернету и приносят вам результаты. Такие браузеры обещают справляться со сложными задачами — вроде создания сайта или планирования поездки — пока вы отдыхаете.

Есть, правда, проблема: если человек не всегда отличит правду от лжи, то ИИ справляется с этим ещё хуже. Даже вроде бы простые действия — резюмировать письма или купить что-то в интернете — могут обернуться катастрофой. Лишённые элементарной интуиции, "агентные" AI попадаются на самые очевидные ловушки.

Исследователи Guardio решили проверить это на практике с помощью браузера Comet от Perplexity (единственный массовый AI-браузер такого типа). На основе ИИ они сгенерировали фейковый сайт, якобы принадлежащий Walmart, и поручили Comet купить на нём Apple Watch. Браузер не заметил ни кривого логотипа, ни подозрительного адреса, и смело отправил финансовые данные мошенникам.

В другом эксперименте учёные прислали себе поддельное письмо якобы от банка Wells Fargo с классической фишинговой ссылкой. Comet перешёл по ней без малейшего сомнения и бодро увёл банковский логин и пароль на сайт злоумышленников. В третьем случае Comet легко попался на ещё одну уловку: спрятанное в фишинговой странице поле ввода просто приказало ИИ скачать опасный файл — и тот беспрекословно исполнил.

Хотя тесты и ограничены, выводы тревожные. Агентные AI-браузеры уязвимы и для новых, и для старейших видов мошенничества. ИИ выполняет всё по команде пользователя, и если человек сам не заметил подвоха, никакой "охранник" из него не выйдет.

На этом фоне ведущие IT-гиганты продолжают внедрять "агентный" AI повсюду: Microsoft добавляет Copilot в Edge, OpenAI запускает Operator, у Google — проект Mariner. Если разработчики не улучшат системы защиты от мошенничества, "агентный" AI рискует превратиться из помощника в огромную брешь в безопасности — и в новый инструмент для хакеров.