Google: рынок ИИ-преступлений растет

Google предупреждает: преступники не только используют, но и разрабатывают ИИ-инструменты для преступных операций. Группа Threat Intelligence Google сообщила о тревожной тенденции: искусственный интеллект теперь не просто облегчает жизнь киберпреступникам, а создается специально для непосредственного участия в атаках. В частности, исследование показало, что большие языковые модели (LLM) уже интегрируются в вредоносные программы. Один из опасных примеров — PROMPTFLUX: он написан на VBScript и обращается к API Gemini за «специфическими методами запутывания и уклонения», чтобы динамически модифицироваться и уходить от стандартных антивирусных проверок. Google утверждает, что такие инструменты находятся пока что на стадии тестирования, но по мере их доработки угрозы станут реальнее.

Вместе с легальным рынком ИИ-технологий расцветает и преступный «черный рынок» — на подпольных форумах торгуют программами, которые опускают планку вхождения в киберпреступный мир до минимума. Теперь для совершения сложных атак уже не нужны большие знания и опыт: выбор готовых инструментов ширится с каждым днем.

Чтобы обойти защитные механизмы ИИ, злоумышленники используют трюки социального инжиниринга: представляются «кибербезопасниками», чтобы выманить у Gemini сведения, которые должны быть под запретом.

Кто же за этим стоит? Google без особых сюрпризов обнаружила аналогию с деятельностью государственных структур из Китая и Ирана: они собирают данные, проводят разведку и используют ИИ-решения для влияния — как уже делали и раньше.

ИИ-инструменты массово используются как преступниками, так и спецами по безопасности. Кто из них впереди — до сих пор неясно.