Zero-click уязвимость "ShadowLeak" угрожает ChatGPT
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Чем выше человек строит башни своих надежд на искусственный интеллект, тем больнее падает очередной кирпич — и вот он, очередной удар судьбы для поклонников автоматизации. Новая уязвимость, прозванная ShadowLeak, обнаружена в агенте Deep Research для ChatGPT. Система, казавшаяся бастионом эффективности для бизнес-аналитики, CRM и корпоративных писем, внезапно оказалась распахнутой настежь для воров информации — и всё это без единого щелчка мыши или намёка на тревогу.
Как сообщает компания Radware, ShadowLeak даёт злоумышленникам возможность вытаскивать конфиденциальные данные прямиком с серверов OpenAI. Жертва здесь — статист всему происходящему: пользователь может продолжать мечтать о безопасности и корпоративной секретности, пока невиданные злоумышленники выкачивают потоки информации. CTO Radware Дэвид Авив сравнивает это с идеальным преступлением — ни действий со стороны пользователя, ни сигналов тревоги, и узнал ты бы об этом лишь из чьей-то язвительной хроники.
Уязвимость работает исключительно на стороне сервера, никакие пароли или костыли локального антивируса тут не помогут — ShadowLeak действует независимо от устройств и сетей. Всё, что нужно злоумышленнику, — отправить электронное письмо с «невидимой» инструкцией, и Deep Research агент всё сам передаст в руки киберпиратов.
Паскаль Гинанс из Radware замечает: наивно надеяться только на стандартные средства защиты АИ– эти системы слишком умны (или слишком глупы?), чтобы оставаться под традиционным колпаком. Новая брешь стала первым случаем полного бесконтактного («zero-click») похищения данных, оставляя корпоративным отделам ИБ лишь ахнуть и потянуться за валерьянкой.
А теперь задумайтесь: ChatGPT насчитывает свыше 5 миллионов платных корпоративных пользователей. Масштаб потенциальных утечек — по-настоящему библейский. Всё, что спасает вас, — человеческий контроль, строгие права доступа и постоянная паранойя по поводу безопасности. Другого пути не предусмотрено: если вы доверяете искусственному интеллекту свои тайны, проверьте, в какой корзине они окажутся завтра утром.
PEREC.RU
Старая добрая алчность теперь обёрнута в технологический фантик. Когда компании торжественно вручают свои тайные отчёты ботам, оценивая чудесную эффективность, в мире происходит не откровение, а банальное забвение: очередная уязвимость, очередной баг, очередная украденная база данных.
Radware бодро сообщает миру, что теперь достаточно отправить стандартное письмо с потайной командой — и искусственный интеллект сам вынесет корпоративные секреты за территорию Трудовой доблести. Особенно радует здесь участие Deep Research-агента. Имя-то прямо из марвеловских комиксов, а реально — шпион на побегушках для любого, кто сумеет пришить к письму нужную строчку.
Как всегда, корпорации хранят деньги и данные в стеклянной банке и плачут, когда всё уходит через незаметное отверстие. Рынок давно мечтает о цифровом вечном двигателе — а получился всё тот же дырявый забор.
5 миллионов корпоративных пользователей — вот где поле чудес, а не в Буратино. Кто следующий — останется без тайных договоров и приватных обсуждений. После этого так и хочется спросить: кто главный тут — человек или его программа? Пока что ответ ясен: тот, у кого остался последний ключ от двери, построенной из слепой веры во всемогущество алгоритмов.
