ИИ учится взламывать сам – опасность без тормозов?

Искусственный интеллект (ИИ) на нейросетях типа LLM (Large Language Models – большие языковые модели), ещё вчера помогавший офисным работникам составлять отчёты и генерировать креативные подписи к котикам, теперь занялся куда более опасными делами. Недавнее исследование специалистов Карнеги-Меллоновского университета (Carnegie Mellon University, один из ведущих вузов США) и компании Anthropic выяснило: современные ИИ способны не просто помогать в кибератаках, а планировать и выполнять сложные взломы полностью самостоятельно — без участия человека.

Ранее тесты таких систем ограничивались учебными задачами типа «capture-the-flag» (это такие упрощённые тренировочные хакерские конкурсы). Но команда во главе с аспирантом Брайаном Сингером (Brian Singer) пошла дальше: они дали ИИ продуманную структуру и разделили функции между «координатором» (главный ИИ) и подчинёнными агентами. Эти ИИ-агенты получили возможность анализировать реальную сетевую инфраструктуру.

В качестве проверки исследователи смоделировали условия крупной утечки данных 2017 года в компании Equifax (Equifax – американское кредитное бюро, в 2017 году у них украли данные о 147 миллионах человек). Система на базе LLM не только составила маршрут взлома, но и сама подобрала вредоносное ПО, провела атаку и забрала данные. При этом от людей не требовалось никаких прямых команд или ручного ввода кода.

Что особенно примечательно — ИИ сам не писал сложный код и не работал напрямую с техническими деталями вроде shell-команд или сложных логов. Всё делалось через иерархию – главный ИИ мыслил стратегически, а подчинённые выполняли конкретные задачи. За счёт такого подхода система стала «понимать» изменения в инфраструктуре и подстраиваться под них.

Хотя тесты шли в лабораторных условиях, исследователи предупреждают: дело не ограничивается теорией. Если такие технологии попадут в плохие руки, кибератаки могут стать массовыми – и никакой антивирус не спасёт. Даже самые совершенные средства защиты рискуют не справиться с настолько «живым» и адаптивным врагом.

Есть, правда, и светлая сторона. Подобные ИИ можно использовать в тестировании безопасности: если он способен так точно имитировать поведение хакера, значит, можно выявить уязвимости заранее и закрыть их до настоящей атаки.

Авторы подчёркивают: текущая система работает лишь по особым сценариям и в реальности пока не готова сама нападать на весь интернет. Но это первый шаг к реальным автоворонкам кибервойны на базе ИИ.

Сейчас учёные пытаются найти способ использовать эти же технологии для защиты: возможно, скоро ИИ-агенты смогут останавливать взломы ещё на начальном этапе – в реальном времени.