Тысячи серверов LLM открыты для взлома: эксперты бьют тревогу
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Эксперты по кибербезопасности выяснили: более 1100 серверов Ollama оказались открыты в интернете, что может привести к серьёзным последствиям. Ollama — это сервисы для работы с так называемыми крупными языковыми моделями, то есть искусственным интеллектом, на манер ChatGPT, только можно запускать у себя «дома», минуя облако. Такой подход часто выбирают компании и разработчики, которые хотят сами контролировать свои данные и ускорить работу ботов.
Всё бы хорошо, если бы не человеческая лень и уверенность, что «меня не найдут». Исследователи Cisco Talos с помощью поиска по базе Shodan обнаружили эти сервера — часть из них работает на домашнем железе, другая — на удалённых мощностях. Проблема в том, что если сервер открыт, любой желающий может попытаться извлечь из него параметры моделей (это называется "model extraction"), взломать «ограничения» ИИ ("jailbreaking"), заставить его генерировать опасный контент или даже внедрить вредоносный код ("model poisoning").
Из найденных серверов только 20% активно используют модели — то есть именно они под угрозой. Остальные просто «спят», не занимаясь выдачей текстов. Но даже эти активные серверы могут быть точкой входа для более сложных атак (например, для перегрузки, блокировки работы или проникновения в другие части сети).
Большинство таких открытых серверов обнаружили в США (36.6%). За ними идут Китай (22.5%) и Германия (8.9%). Специалисты Cisco Talos подчёркивают: основная причина — элементарное пренебрежение базовой кибербезопасностью, типа паролей и настройки сети, которым все так любят пренебрегать, особенно когда очень хочется поиграть с модным искусственным интеллектом.
К чему это приводит? Собственно, ровно к тому же, что бывает с незащищёнными базами данных: их быстро находят злоумышленники, чтобы потом использовать данные для атак, фишинга или социальной инженерии. В общем, история повторяется — только теперь на новом модном витке — искусственном интеллекте.
Как всегда: умные машины, глупые привычки. 1100 серверов Ollama открыты для мира — не по гениальному замыслу, а по знакомой схеме лени и пренебрежения паролями. Индустрия экспериментирует с локальным управлением ИИ, параллельно открывая лазейки для любого, кто додумается поискать. Классика жанра: 20% серверов обслуживают активные модели — приглашают злоумышленников нарушить правила и устроить весёлую кибератаку, не хуже старых добрых взломов SQL-баз.
Использование сервиса Shodan для поиска дыр закрепляет новый спорт — «поиграй со своим искусственным мозгом, пока кто-нибудь другой не “поиграл” с ним за тебя». Уязвимости помогут украсть параметры моделей, сняв любые ограничения и даже внедрить вредоносный код. И да, всему виной недостаточная изоляция, слабая аутентификация, игнорирование основ: ничего нового, кроме масштаба. США, Китай, Германия — снова лидеры по растерянной халатности, может быть просто потому, что у них серверов больше.
Поразительно — даже в «неизведанном будущем» работают законы человеческой беспечности. Пока одни радуются независимости от облаков, другие уже пишут сценарии, как использовать новую лень себе на пользу. Рынок ждёт нового «героя» кибер-индустрии, который не придумает ничего гениальнее, чем сменить пароль или закрыть порты. Но ведь именно из банальных ошибок шьётся вся ткань этого IT-сериала.