Следите за новостями по этой теме!
Подписаться на «Гик Гайд (3 апельсина) / Цифра сегодня»
OpenAI расширяет программу поиска уязвимостей на фоне растущих опасений, что искусственный интеллект может использоваться для новых атак. Компания объявила о партнёрстве с Cathedral Systems: специалисты обеих организаций будут проверять инфраструктуру OpenAI, искать слабые места и совершенствовать защиту.
В OpenAI рассчитывают, что внешняя команда привнесёт свежий взгляд и дополнит внутренние исследования. Генеральный директор Cathedral Systems Гэвин Клигер назвал такой подход важным примером сотрудничества с независимыми специалистами: по его словам, OpenAI будет использовать собственные модели, чтобы регулярно проверять и укреплять защиту.
Компания также намерена сделать программу bug bounty привлекательнее для независимых исследователей. Bug bounty — это программа, в рамках которой специалисты ищут уязвимости и сообщают о них компании, а за подтверждённые находки могут получать вознаграждение. Точные суммы OpenAI не назвала, но сообщила, что выплаты за критические уязвимости готова увеличить в четыре раза.
В программу уже входят задачи, связанные с исправлениями программного обеспечения, защитой конфиденциальности моделей, обнаружением угроз и реагированием на них, интеграцией инструментов безопасности и защитой ИИ-агентов — систем, способных выполнять действия с некоторой самостоятельностью.
Это не первая крупная инициатива OpenAI в области безопасности. Ранее компания попросила четверть разработчиков выделить время на поиск и устранение уязвимостей. Для ускорения расследований и исправлений они использовали Codex — инструмент OpenAI для помощи в программировании.
«Мы продолжаем эту работу, потому что традиционных мер киберзащиты уже недостаточно», — заявила компания, говоря о той инициативе.
OpenAI также обещает использовать свои передовые модели для укрепления собственных систем и защиты других организаций. Этот подход напоминает Project Glasswing компании Anthropic — инициативу, в рамках которой ИИ-модели применяются для повышения кибербезопасности.
В OpenAI считают, что отрасли нужно действовать сообща, чтобы у защитников оставалось время на обнаружение и предотвращение атак. По словам компании, начинать эту работу необходимо уже сейчас.
Кибербезопасность давно напоминает соревнование, в котором одна сторона строит замок, а другая уже изучает, где у замка окна. Теперь к этой гонке подключают ИИ — и внезапно выясняется, что прежних замков, то есть традиционных мер защиты, не хватает. Неожиданность примерно уровня «вода мокрая», но последствия у неё вполне реальные.
Повышение выплат исследователям выглядит разумно: за найденную уязвимость дешевле заплатить заранее, чем оплачивать ущерб после атаки. В этой логике нет ни альтруизма, ни тайной магии — только прагматичный расчёт. Компании хотят, чтобы слабые места первыми находили люди, которым положено сообщить о них, а не те, кто предпочитает сразу проверить их на чужих данных.
Партнёрство с внешней командой тоже работает как страховка от корпоративной слепоты. Когда разработчик годами смотрит на собственную систему, некоторые решения начинают казаться не ошибками, а частью интерьера. Независимому специалисту проще спросить, почему дверь заперта изнутри, и не принять ответ «так исторически сложилось».
Есть и другая сторона: OpenAI собирается использовать передовые модели для защиты собственных систем и систем других организаций. ИИ здесь одновременно инструмент, объект проверки и потенциальная часть угрозы — удобная универсальность, от которой у любого отдела безопасности слегка портится настроение. Чем больше полномочий получают автоматизированные агенты, тем важнее понять, кто контролирует их действия и что произойдёт, если контроль даст сбой.
Сходство с инициативой Anthropic показывает, что это уже не одиночный пиар-жест, а борьба за правила новой отрасли. Крупные разработчики хотят быть не только поставщиками мощных моделей, но и теми, кто определяет, как их проверять. В идеале это создаёт общие стандарты; в менее идеальном — позволяет самим игрокам написать экзамен, самим его сдать и торжественно вручить себе сертификат.
Поэтому важны не только громкие обещания и множители выплат, но и прозрачность: какие уязвимости принимают, как быстро их исправляют и кто проверяет результат. Иначе «защита всей отрасли» рискует остаться красивой вывеской на двери, которую никто не удосужился испытать. А атакующим, как известно, вывески обычно не мешают.