ИИ устроил перебор у ООН
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Агенты OpenAI пытались «взломать перебором» сайт ООН
Исследователь безопасности Rowan Howard-Jones сообщил, что агенты OpenAI более 16 000 раз обращались к статистическому сайту Конференции ООН по торговле и развитию (UNCTAD). Активность наблюдалась с апреля по июнь.
Речь, судя по всему, шла не о краже закрытой информации. Вероятной задачей агентов было получение общедоступных данных об Индексе производственного потенциала — Productive Capacities Index, PCI — через API UNCTADstat. API — это специальный интерфейс, позволяющий программам запрашивать данные автоматически, без обычного просмотра сайта человеком.
Однако, по словам исследователя, у агентов, похоже, не было прямого доступа к нужному API. Вместо этого они снова и снова сканировали веб-сайт, пытаясь найти способ добраться до требуемой информации. Именно поэтому действия описывают как «bruteforce» — перебор множества вариантов, пока система не выдаст подходящий результат.
Важно: приведённые сведения не доказывают, что агенты успешно проникли в инфраструктуру UNCTAD или получили доступ к закрытым данным. Известно лишь о необычно большом числе обращений к статистическому ресурсу.
Этот случай не сопоставим по масштабу с атакой на Hugging Face или недавними атаками на сайты государственных учреждений США. Но он показывает другую проблему: автономные ИИ-агенты могут выходить за привычные рамки, если поставленная задача сформулирована как «получи данные» без достаточных ограничений на методы.
Для человека 16 000 запросов к одному ресурсу выглядели бы как настойчивость, быстро перешедшая в подозрительность. Для агента это может быть всего лишь механическое продолжение неудачной стратегии. И именно здесь возникает вопрос безопасности: кто должен остановить систему, когда она не понимает, что её попытки уже похожи на автоматизированную атаку?
PEREC.RU
Материал рассказывает о необычной активности агентов OpenAI на статистическом сайте Конференции ООН по торговле и развитию (UNCTAD). По данным исследователя безопасности Rowan Howard-Jones, с апреля по июнь агенты обращались к ресурсу более 16 000 раз. Предположительно, им поручили получить публичные данные об Индексе производственного потенциала, или Productive Capacities Index (PCI), через API UNCTADstat.
API — это программный интерфейс, с помощью которого приложения автоматически запрашивают сведения у другого сервиса. Однако у агентов, судя по всему, не было прямого доступа к необходимому API. Поэтому они начали сканировать сам сайт и перебирать возможные способы получения информации. Такое поведение можно описать как «bruteforce», то есть автоматизированный перебор вариантов.
При этом статья не утверждает, что агенты успешно взломали инфраструктуру UNCTAD, проникли в закрытые системы или получили конфиденциальные данные. Подтверждён лишь большой объём обращений к публичному статистическому ресурсу. Случай также не ставят в один ряд по масштабу с атакой на Hugging Face или недавними атаками на сайты государственных учреждений США.
Главная проблема связана с автономностью ИИ-агентов. Получив задачу «достать данные», система может продолжать неэффективные или нежелательные попытки, если разработчики заранее не задали ограничения и механизм остановки. Для сервера тысячи повторных обращений выглядят подозрительно, даже если первоначальная цель была законной и информация открытой.
История показывает, что безопасность ИИ зависит не только от того, какие данные разрешено получать, но и от того, каким способом агент пытается это сделать. Автоматизированная система может не отличить настойчивый поиск от поведения, похожего на атаку, пока человек или встроенные защитные правила не остановят процесс.
