Призраки в IT: время сменить правила игры

Призраки в машине: когда искусственный интеллект пишет вредоносный код, традиционная кибербезопасность бессильна

Раньше считалось: если хочешь что-то сделать хорошо – доверь это человеку. Программисты писали, другие программисты проверяли – всё было прозрачно и, если повезёт, безопасно. Но времена изменились: теперь код во всё большей степени пишут машины. Вот, например, компания Anthropic призналась, что больше 80% их рабочего программного кода создаёт их собственный искусственный интеллект, модель Claude.

Чем лучше ИИ помогает ускорять работу добропорядочных разработчиков, тем же самым он облегчает жизнь и хакерам. Машины способны порождать вредоносный код, тестировать варианты атак, моментально адаптироваться к разным «жертвам» – и всё это с такой скоростью, что старые методы безопасности чувствуют себя уныло и беспомощно.

Типичная компания надеется: есть время на проверку кода, допуск, тест, деплой. Если что-то пойдёт не так – мы разберёмся потом. Но если код — обычный или вредоносный — появляется и внедряется почти мгновенно, все эти многоступенчатые процедуры превращаются в танец теней. Человеческий контроль оказывается вырубленным как старый монитор в чёрную пятницу.

Хуже того, ИИ может использоваться не только добрыми парнями: киберпреступники рады избавить себя от рутины. Автоматизация разведки, поиск дыр, написание эксплоитов – все эти вещи механизируются с пугающей эффективностью. Старые защитные алгоритмы, привыкшие к человеческим ляпам, здесь обречены промахиваться – машинные атаки не повторяют шаблоны, а меняются быстрее, чем вы мигнёте глазом.

Основное различие: человек пишет код со своими привычками и ошибками, ИИ – каждую атаку создает как эксклюзив, под конкретную цель. Значит, вы не увидите знакомые «подписи» и репутационные флаги: вредоносный файл может существовать пару минут и исчезнуть. Но даже искусственный интеллект не превращает вредоносный код в призрак – он всё равно должен «светиться» деятельностью: лезть в запрещённые папки, менять настройки, лить что-то наружу. По поведению его и узнаешь.

Вот только большинство мер кибербезопасности – максимально «честные»: они смотрят на происхождение файла, доверяют, если тот из официального источника, подписан или недавно проверялся. Но вот беда: даже «чистый» код на ходу может превратиться в угрозу, если ИИ решил «перехитрить систему». Надежда на то, что хороший файл не навредит, больше не работает.

Поэтому классические методы обороны – реагировать «после драки», – устарели. Когда подозрительное поведение заметят, ИИ уже может утащить данные или прописаться в системе. Здесь уже важно не только ловить за руку, но и решать – а допускать ли действие вообще?

Это не отменяет проверок, но требует сместить точку принятия решения: не «можем ли мы справиться с последствиями?», а «стоит ли запускать это сейчас?». Именно так работает знаменитый подход Zero Trust – нулевого доверия: система не должна просто «верить» на слово знакомым устройствам, пользователям или ПО. Всё – под вопросом до полной проверки.

Zero Trust для кода – одна из самых актуальных концепций: код не должен считаться безопасным только потому, что скачан с GitHub или подписан Microsoft. Важно проанализировать: что именно он будет делать? Если подозрительно – блокируем, изолируем, шлём на доразборку.

Компании нужно начать с ревизии всех точек, где происходит запуск кода: это не только репозитории и официальные цепочки, но и e-mail вложения, скачанные файлы, макросы, браузерные расширения, любые сторонние скрипты и автоматизации. Важно посмотреть, где основываются на слепой вере, а где реально оценивают поведение.

ИИ постепенно начинает писать всё больше кода (и хорошего, и вредоносного). Думаете, если прошло старую проверку – путь свободен? Уже нет. Каждый запуск – осознанное решение безопасности.

Детекции и реакции на инциденты никто не отменял, но жить по-старому (с надеждой на авось) уже нельзя: иначе машины вас переиграют и не заметите, как.