ИИ учится ломать заводы
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
ИИ постепенно приближается к способности атаковать промышленную инфраструктуру — и это плохая новость для энергетики, производства и других критически важных отраслей. Однако паниковать пока рано: автоматизированный взлом промышленных устройств уже возможен, но остаётся дорогим, сложным и требующим участия специалистов.
Исследователи по безопасности из Forescout проверили, сможет ли искусственный интеллект помогать злоумышленникам атаковать всё большее число промышленных устройств, доступных из интернета. Речь идёт об OT (Operational Technology) — системах управления физическими процессами, включая ПЛК, или программируемые логические контроллеры. Такие контроллеры используются, например, на электростанциях, заводах и объектах инфраструктуры.
В рамках эксперимента специалисты попытались перенести уязвимость класса RCE с одного ПЛК на другой. RCE, или удалённое выполнение кода, позволяет атакующему запускать на устройстве собственные команды. Задача была особенно непростой: оба устройства работали на закрытом программном обеспечении, исходный код которого недоступен для изучения.
Тем не менее эксперимент завершился успехом. Исследователям удалось сначала перевести устройство в состояние DoS — отказ в обслуживании, при котором ПЛК аварийно прекратил работу. Затем они получили рабочий механизм удалённого выполнения кода, способный запускать ARM shellcode — машинные инструкции, подготовленные злоумышленником для процессоров архитектуры ARM.
Звучит тревожно, но у этой истории есть крупное «но». На всём пути исследователям требовалось существенное участие человека. Только финальная стадия разработки RCE обошлась более чем в 500 долларов API-запросов к ИИ-сервисам. Попытка развить эксплойт дальше первоначального этапа закончилась тем, что ПЛК был окончательно выведен из строя — фактически превращён в дорогой промышленный кирпич.
По оценке Forescout, атака с помощью ИИ действительно возможна, но пока не настолько проста и выгодна, как это иногда представляют. Высокая стоимость, технические ограничения и необходимость специальных знаний делают такой путь менее привлекательным для обычных киберпреступников. Им по-прежнему проще искать другие цели и уязвимости.
Но есть неприятная оговорка: исследование почти не рассматривает атакующих, связанных с государствами. Для таких групп стоимость более 500 долларов на API — не барьер, а мелкая строка расходов. Промышленные устройства могут быть для них приоритетной целью, особенно если атака способна нарушить работу энергетики или производства.
В 2025 году уже был пример подобного риска: группировка Sandworm атаковала поставщиков электроэнергии в Польше. Поэтому вывод выглядит не слишком успокаивающим. Обычным преступникам ИИ-взлом OT пока может показаться слишком дорогим, но хорошо финансируемым государственным группам цена эксперимента в несколько сотен долларов вряд ли помешает.
PEREC.RU
Заголовок про ИИ, который учится ломать заводы, звучит так, будто завтра нейросеть сама зайдёт в диспетчерскую, выключит свет и попросит оплату в криптовалюте. В реальности до этого образа ещё лежат специалисты, закрытые устройства, неудачные попытки и счёт за API. Но именно контраст между грозной обложкой и ручной работой внутри эксперимента здесь полезен: он показывает, где заканчивается демонстрация возможностей и начинается эксплуатационный риск.
Исследование не повод объявлять каждую фабрику обречённой, но и не успокоительное. Если ИИ может ускорить отдельные этапы поиска уязвимостей, то со временем часть работы станет доступнее тем, у кого меньше опыта; если система ломается при попытке продолжить атаку, это пока ограничение, а не вечный закон природы. Технологический оптимизм и паника обычно спорят о сроках, пока инженеры чинят оборудование.
У истории есть удобные заинтересованные стороны. Исследователям важно показать, что угрозу нельзя игнорировать; разработчикам защитных решений — убедить покупать защиту; поставщикам моделей — продемонстрировать полезность дорогих инструментов. Никто не обязательно врёт, но каждый умеет подсветить ту часть картины, которая ведёт к следующему бюджету. В промышленной безопасности это особенно знакомо: тревога получает грант, спокойствие — только отложенный счёт.
Сумма, потраченная на финальный этап эксперимента, служит хорошей занозой для рекламного сюжета о всемогущем ИИ. Для любителя массовых атак стоимость и необходимость экспертного участия пока делают такой путь неудобным; для хорошо финансируемой группы это может быть всего лишь строка расходов. Поэтому вывод не в том, что машины уже взламывают инфраструктуру без людей, а в том, что порог работы может постепенно снижаться — и готовность отрасли не должна зависеть от того, насколько эффектно звучит текущая демонстрация.
Самая неприятная часть не в том, что ИИ однажды станет злым, а в том, что критические системы уже подключены к миру, где ошибаются люди, экономят компании и обновления откладываются до удобного квартала. Модель может помочь атакующему, но ответственность за защиту по-прежнему распределена между владельцами устройств, подрядчиками и теми, кто годами считает безопасность расходом без красивой отдачи. Уязвимость становится стратегической не тогда, когда её описали в отчёте, а когда за её устранение некому подписать бюджет.
Так что заголовок можно оставить для клика, а вывод — сделать менее кинематографичным: риски растут постепенно, навыки и деньги всё ещё имеют значение, а промышленные сети требуют скучной, постоянной работы. Это не продаётся так бодро, как «ИИ ломает заводы», зато не заставляет путать лабораторный успех с готовой кнопкой катастрофы. В отрасли, где цена ошибки измеряется не лайками, полезнее именно такая трезвость.
