ИИ-червь уже примеряет чужие устройства

Компания Anthropic предупреждает: небольшие модели искусственного интеллекта могут научиться самостоятельно размножаться на устройствах интернета вещей (IoT) уже в ближайшие месяцы. Интернет вещей — это бытовая и офисная техника, подключённая к сети: например, камеры, телевизионные приставки и оборудование для видеоконференций.

Такой ИИ-червь не обязательно будет зависеть от одного центра управления, который можно просто выключить. Он потенциально сможет переходить из одной сети в другую, находить новые устройства и копировать себя без участия человека. По оценке Anthropic, IoT-техника особенно привлекательна для подобных атак: она недорогая и часто защищена хуже, чем компьютеры и серверы.

Исследователи проверили, можно ли распределить работу модели между множеством дешёвых устройств. Они запустили Gemma4-26B-A4B — модель с 25 миллиардами параметров — на 15 недорогих Android TV-приставках малоизвестных марок. Каждая стоила около 55 долларов. После объединения приставок в сеть они смогли совместно выполнять инференс — обрабатывать запросы модели и выдавать результаты. Это подтвердило работоспособность принципа, но само по себе не означает, что исследователи создали действующий вредоносный червь.

Возможный сценарий выглядит так: программа заражает плохо защищённые устройства дома или в небольшой компании, а затем делит модель на фрагменты — «шарды» — и распределяет их между захваченными устройствами. Вместе они могли бы выполнять вычисления. Чтобы оплачивать использование токенов — единиц текста, за которые часто рассчитывают стоимость ИИ-сервисов, — червь теоретически мог бы предлагать вычисления на цифровой площадке для фрилансеров.

Отдельная цель — новые устройства со встроенными ИИ-чипами, рассчитанными на запуск небольших моделей. Среди примеров Anthropic называет камеры видеонаблюдения и комплекты для видеоконференций. Проникнуть в такие системы злоумышленники могут с помощью социальной инженерии — обмана людей ради получения доступа, — а в будущем, возможно, и через ИИ-агентов.

Под угрозой могут оказаться и дата-центры или другие площадки с мощными вычислительными ресурсами: продвинутые самокопирующиеся системы теоретически способны преодолеть их защиту и использовать оборудование для дальнейшего распространения. Ещё один вариант — червь, который не хранит модель на заражённых устройствах, а крадёт учётные данные людей и через API получает доступ к коммерческим ИИ-сервисам. API — это программный интерфейс, позволяющий приложениям обращаться к онлайн-сервису. В таком случае чужие аккаунты могли бы оплачивать вычисления.

Anthropic подчёркивает, что немедленной угрозы пока нет. Однако исследователи допускают, что проблема может стать актуальной к концу года. Один из главных барьеров для вредоносной системы — запуск на незнакомом оборудовании. Обычный сетевой червь обычно рассчитан на конкретные уязвимости, тогда как ИИ-червь потенциально мог бы приспосабливаться к разным устройствам.

В испытаниях небольшая модель Qwen3.5-9B смогла адаптироваться к восьми из девяти проверенных типов оборудования. В набор входили Jetson Nano, компьютеры Mac и видеокарты RTX 4090. При этом небольшие модели лучше приспосабливались к разным устройствам, а крупные, по оценке исследователей, могли бы быстрее размножаться.

У такого червя есть и слабое место: ему пришлось бы выбирать между скрытностью и скоростью распространения. Чем быстрее он копируется, тем заметнее может становиться в сети. Среди возможных признаков — передача файлов с весами модели размером в несколько гигабайт на новые заражённые устройства и необычный обмен данными между техникой, которая обычно не взаимодействует.

В качестве первичной защиты Anthropic предлагает изоляцию заражённой сети. Исследователи также ссылаются на опыт борьбы с ботнетом Mirai — сетью устройств, заражённых вредоносной программой. Один из возможных подходов — разрешать подключение только к заранее утверждённым сайтам, а браузеры перенаправлять на инструкции по очистке устройств.

Помочь могут и обязательные требования к безопасности IoT-техники: отказ от заводских паролей по умолчанию, автоматические обновления и более длительный срок поддержки устройств. Отказ от стандартных паролей уже внедрён в Великобритании. Эти меры затруднят заражение не только гипотетическим ИИ-червям, но и обычному вредоносному программному обеспечению.