Хакеры используют GPT-4 для создания виртуального помощника — подробности угрозы

Эксперты по кибербезопасности из компании SentinelOne раскрыли новый вид вредоносной программы. Она использует искусственный интеллект — модель GPT-4 от OpenAI — для создания вредоносного кода буквально на лету. Называется эта находка MalTerminal. Исследователи утверждают: интеграция языковых моделей такого уровня в вирусы знаменует собой переломный момент для всей сферы киберугроз.

Что происходит? MalTerminal — как своеобразный вирус-конструктор. Хакер запускает программу, выбирает, что именно хочет получить — например, программу-вымогатель или так называемый обратный шелл (инструмент для удаленного управления зараженным компьютером). Дальше MalTerminal обращается напрямую к продвинутому ИИ GPT-4, который в ответ генерирует нужный вредоносный код на языке Python.

Вся «прелесть» схемы — в новизне: код появляется только в момент запуска. Это значит, что стандартные антивирусы, привыкшие искать давно известные фрагменты вредного ПО, оказываются бессильны — ведь вредоносный код просто не существует до момента его необходимости.

Исследователи нашли MalTerminal, когда заметили подозрительные Python-скрипты и исполняемый файл под Windows с жестко прошитыми ключами доступа и специальными шаблонами для запросов к ИИ. При дальнейшей проверке выяснилось: тот сервер, через который вирус общался с GPT-4, уже отключён в конце 2023 года. Это значит, что MalTerminal — самый ранний известный пример ПО, использующего ИИ такого уровня непосредственно в своей работе.

К счастью, SentinelOne не нашли доказательств, что MalTerminal реально использовался против «живых» жертв. С большой вероятностью — это был либо эксперимент разработчика, либо инструмент для «красных команд» (специалистов, которые проверяют защиту компаний на прочность).

Тем не менее, эксперты предупреждают: эпоха вредоносных программ с искусственным интеллектом уже началась. Сейчас таких кейсов мало, но именно этот момент даёт шанс защитникам — поучиться на чужих ошибках и подготовиться к куда более сложным угрозам в будущем. SentinelOne убеждены: хакеры не остановятся — скоро появятся более изощрённые атаки, и бороться с ними будет всё сложнее.