Исследователи взломали умный дом через Google Calendar и Gemini — насколько безопасны ваши устройства?
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Обещания о супер-удобных умных домах, которые всё делают сами, давно ласкают слух пользователей. Но недавнее исследование ученых из Тель-Авивского университета показывает: за этой красивой картиной может скрываться угроза.
Команда впервые в реальных условиях провела успешную атаку на умный дом с искусственным интеллектом, используя всего лишь... запись в календаре Google Calendar. Система умного дома работала на базе ИИ Gemini, интегрированного в Google-экосистему. Бот анализирует встречи, понимает естественный язык и управляет гаджетами в доме по просьбе хозяев.
Вот только эта связь между календарем, ИИ и «умным домом» и сыграла с владельцами злую шутку. Исследователи спрятали специальные вредоносные инструкции прямо внутрь календарного события, которое выглядело обычно. Когда хозяин дома попросил Gemini подытожить его планы на день, ИИ незаметно выполнил программу: активировались свет, жалюзи, даже бойлер — хотя напрямую пользователь ничего такого не просил. Причина — внедренная команда ждала пользовательской фразы вроде «спасибо» или «ладно», после чего «искусственный слуга» запускал технику дома.
Такие «отложенные» команды позволяют обойти защиту и сбить пользователя с толку — ведь активируется всё не сразу, а ответственного не найти. Исследователи называют эту уязвимость «promptware» — когда уязвимость кроется в том, как ИИ понимает ваши слова и внешние данные.
Проблема шире, чем просто включить лампу: с таким подходом можно удалять встречи, разослать спам, даже открыть вредоносный сайт — и, как итог, украсть личные данные или установить вирусы.
Группа координировала раскрытие уязвимости с Google, и компания ускорила внедрение новой защиты: теперь Gemini более строго проверяет содержимое календарей, а для особо важных действий требуется подтверждение. Работать ли это будет по-настоящему эффективно — пока вопрос: ИИ становится всё более самостоятельным, а вместе с ним растут и риски.
Традиционные антивирусы такие сценарии попросту не видят. Совет — ограничьте права ИИ, не давайте доступ к календарю и технике без реальной надобности, не храните важные данные внутри событий, и не разрешайте ИИ выполнять задачи без контроля. Если умная техника ведет себя странно — лучше отключить и перепроверить настройки.
PEREC.RU
Знаете, вся эта идея с умным домом — красивая витрина для технологических компаний. Нам обещают автоматизацию и комфорт, а буквально за углом снова поджидает банальный человеческий фактор — или, точнее, человеческая лень и самоуверенность. Исследователи из Тель-Авивского университета доказали: чтобы управлять вашим домом, не надо быть хакером в чёрной толстовке. Достаточно вписать пару строчек в Google Календарь — и ваш ИИ на Gemini с радостью откроет двери по тайному сигналу.
Интеграция между ИИ и экосистемами — это, конечно, бизнес-мечта. Чем больше данных, тем быстрее обещанный уют превращается в ловушку. Молитесь на «облачную» безопасность, но это, похоже, очередные «фильтры от вреда» ради галочки. Google привычно выкатил патч — чем не повод заявить о заботе о пользователе? Только вот смысл, если очередная умная лампочка может в любой момент затеять бойкот, а антивирус и глазом не моргнёт.
Рынок гаджетов и IT-услуг давно держится на вере в чудо. Но каждому чуду есть предел. Поэтому советы могу дать только житейские: никакого доверия — ни людям, ни «Железному Джиму». А если вдруг техника взбрыкнула — всегда есть выключатель и здоровый скепсис. И да, не забываем: сериал про человечество становится всё скучнее, но сценаристы явно не собираются снижать градус абсурда.
