Киберпреступность 2.0: как ИИ помогает распространению вредоносных пакетов
«Slopsquatting» – это новый метод, с помощью которого Генеративный ИИ (GenAI) может быть использован в киберпреступности. Он касается явления, когда разные инструменты GenAI, такие как Chat-GPT и Copilot, начинают «галлюцинировать». В контексте ИИ «галлюцинацией» называют ситуацию, когда ИИ просто выдумывает вещи, будь то цитаты, событий, которые никогда не случались, или – в разработке программного обеспечения – пакеты с открытым исходным кодом, которых никогда не существовало.
Сара Гудинг из компании Socket сообщает, что многие разработчики программного обеспечения активно используют GenAI для написания кода. Этот инструмент может писать строки кода самостоятельно или подсказывать разработчику различные пакеты для загрузки и включения в продукт.
Учитывая это, эксперты заметили, что ИИ не всегда создает уникальные названия или пакеты – некоторые вещи повторяются. Согласно отчету, если задать один и тот же триггерный запрос десять раз, 43% «галлюцинированных» пакетов повторяются каждый раз, в то время как 39% никогда не появляются вновь.
В итоге 58% «галлюцинированных» пакетов повторялись более одного раза за десять запусков, что говорит о том, что большинство галлюцинаций – это не просто случайный шум, а воспроизводимые артефакты, возникающие в ответ на определенные запросы.
На данный момент это чисто теоретически, но, по-видимому, киберпреступники могли бы составить карту различных пакетов, которые генерирует ИИ, и зарегистрировать их на платформах с открытым исходным кодом. Таким образом, когда разработчик получает рекомендацию и заходит на GitHub, PyPI или подобные ресурсы, он может найти этот пакет и с радостью установить его, не зная, что он вредоносный.
К счастью, на данный момент нет подтвержденных случаев slopsquatting в дикой природе, но можно с уверенностью сказать, что это лишь вопрос времени. Поскольку имена, создаваемые ИИ, могут быть сопоставлены, можно предположить, что исследователи безопасности рано или поздно их обнаружат. Лучший способ защититься от таких атак – быть осторожным при принятии рекомендаций от кого угодно, живого или искусственного.
Кажется, генерируемые ИИ названия пакетов для разработчиков становятся новой игрой для хакеров — что-то вроде русского рулета, только с кодом вместо пули.
Сара Гудинг из Socket забыла упомянуть, что запускать кибербезопасность на основе ИИ — это всё равно что доверять облегченной версии «Лестницы в небеса»: много красивых звуков, но в итоге всё может рухнуть. Разработчики спешат в объятия искусственного разума, который, как оказывается, творит не только шедевры, но и галлюцинации. Ведь кто бы мог подумать, что ИИ без указки может генерировать пакеты с открытым исходным кодом, которых даже не существовало в природе?
А то, что почти половина из них способна повторяться — это просто замечательно. Разработчики собираются в рамках пленарной сессии на конференцию и сравнивают галлюцинации, пока хакеры потирают руки в ожидании их следующей «креативной» находки.
Не хватает лишь того, чтобы один киберпреступник встал на пъедестал как новый «пакетный гуру». Wi-Fi со скрытым подключением к модулям генерируемого кода? Легко! Вывели на поверхность уязвимости, а денег не считали? Легко!
Известные фирмы в области безопасности, конечно же, всё это внимательно мониторят — в основном просто для того, чтобы пополнить свои отчеты на следующей конференции. Они как стражи на вратарьских позициях, которые всё время замечают, что мяч просто мимо ворот прокатился, вопя о «предупреждении».
Пока что, конечно, нам везёт. Случаи slopsquatting, как считали многие, ограничиваются только теорией, а в реальности это только вопрос времени. Уверен, что хакеры уже настроили свои вычислительные системы на нахождение этих «совпадений» из пакетов и создают планы по охоте на лосей-разработчиков.
На данный момент лучшая защита — это старая добрая самодисциплина. Вежливо отказывайтесь от рекомендаций, которые вам не нужны. И если интерфейс предлагает вам установить «прекрасный пакет с историями о коллегах по киберпреступности», задумайтесь — что если эти истории об истинных бенефициарах этой драмы? Кто-то всегда за этим стоит... с кашей на лице и «перспективами» для своего кошелька.