ИИ завалил баг-баунти

Google временно приостановила приём части сообщений в своей программе вознаграждений за найденные уязвимости. Речь идёт об Open Source Software Vulnerability Rewards Program (OSS VRP) — программе, в рамках которой исследователи сообщают о проблемах безопасности в открытом программном обеспечении Google и могут получать за это выплаты.

Причина звучит почти как анекдот о технологическом прогрессе: программу захлестнули автоматические отчёты, большинство которых оказалось недостоверным или не имело отношения к делу. Поток оказался настолько большим, что специалисты перестали справляться с его обработкой. Поэтому Google не принимает новые сообщения об уязвимостях продуктов OSS VRP до конца 2026 года, чтобы пересмотреть порядок работы и найти более эффективное решение.

При этом пауза не распространяется на отчёты об уязвимостях цепочки поставок открытого программного обеспечения и уже отправленные сообщения. В компании также предложили исследователям использовать другие программы Google для поиска уязвимостей или обратиться к Patch Rewards Program. Обновление по работе OSS VRP Google обещает представить в первом квартале 2027 года.

Генеративный искусственный интеллект действительно помогает специалистам по безопасности. Он способен искать подозрительные места в коде с огромной скоростью и находить проблемы, на которые у человека ушли бы недели. В статье приводится пример Microsoft: в марте 2026 года компания исправила 79 уязвимостей, в апреле — 167, в июне — 200, в августе — 400, а в сентябре — 966. Такой рост связывают с началом использования модели Mythos. Среди других упомянутых передовых моделей названа GPT-5.6-Cyber.

Но скорость поиска не означает качество результата. В начале августа исследователи из 1Password Off-by-1 Labs проверили, насколько хорошо ИИ умеет находить и исправлять уязвимости. В 49,3% случаев патч не устранял хотя бы один прежний путь эксплуатации. Ещё 20,1% исправлений устраняли исходную проблему, но меняли поведение приложения. В 2,3% случаев патчи создавали новые проблемы безопасности, а 2,2% одновременно оставляли уязвимость и добавляли новые способы атаки.

Даже среди потенциально приемлемых исправлений — 26% полностью корректных и 20,1% тех, что меняли поведение приложений, — более трети оказались хрупкими и не устраняли первопричину. По выводу 1Password, главной проблемой был недостаток контекста: если дать модели больше сведений о коде и окружении, качество результата заметно повышается.

Тем не менее многие исследователи используют ИИ для поиска уязвимостей, ограничиваясь короткими запросами и почти не проверяя ответы человеком. В итоге появляются ошибочные, неподтверждённые и даже выдуманные находки.

Google оказалась не первой компанией, которую утопил такой поток. В конце января 2026 года разработчики curl — популярного инструмента командной строки и программной библиотеки с открытым исходным кодом — закрыли свою программу на HackerOne из-за большого числа ложных сообщений. В опубликованном на GitHub уведомлении проект заявил, что больше не выплачивает вознаграждения за найденные ошибки и не помогает исследователям получать выплаты из других источников.

В мае 2026 года Линус Торвальдс, сопровождающий рассылку по безопасности Linux, назвал ситуацию с AI-отчётами «почти полностью неуправляемой». По его словам, разные исследователи находят одни и те же проблемы одинаковыми инструментами, создавая огромное количество дубликатов. Сотрудникам приходится тратить время на пересылку сообщений нужным адресатам или объяснение, что проблема уже исправлена и обсуждалась публично.

ИИ научился искать уязвимости быстрее людей, но пока не научился отличать важную находку от цифрового мусора. Поэтому компании вынуждены тратить ресурсы не только на исправление ошибок, но и на проверку того, существуют ли они вообще.