ИИ Google нашёл баги: Big Sleep дебютирует
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Google разработал новый инструмент на базе искусственного интеллекта для поиска уязвимостей в программном обеспечении с открытым исходным кодом. Эту систему назвали Big Sleep. Над ней трудились специалисты из подразделений DeepMind и Project Zero. Первая «добыча» — 20 уязвимостей, выявленных в таких известных программах, как FFmpeg и ImageMagick. Пока что подробности об ошибках не раскрывают: компания придерживается 90-дневной политики, чтобы дать разработчикам исправить проблемы, пока их не начали использовать злоумышленники.
Big Sleep может самостоятельно находить и воспроизводить ошибки, что, по словам Google, делает его более эффективным, чем обычные специалисты по безопасности. Несмотря на автономность, каждую ошибку всё же проверяет человек. Это необходимо для отсечения ложных срабатываний — никто не хочет раздувать панику из-за несуществующих проблем.
Итог: искусственный интеллект находит реальную угрозу. Президент по глобальным вопросам Kent Walker рассказал, что уже к ноябрю 2024 года Big Sleep обнаружил свою первую уязвимость — мол, теперь уровень защиты заметно возрастёт. По словам вице-президента подразделения безопасности Google Heather Adkins, компания сообщает обо всех найденных ошибках публично и делит их на «серьёзные», «средние» и «незначительные».
Полная техническая презентация Big Sleep ожидается на крупных профессиональных мероприятиях Black Hat USA и DEF CON 33. Кроме того, Google собирается передать анонимизированные обучающие данные в Secure AI Framework — это даст возможность и другим исследователям воспользоваться наработками компании.
PEREC.RU
Статья из разряда IT-сенсаций, когда Google вдруг решает сыграть в спасателя цифрового мира. Делает лицо серьёзное – выпускает Big Sleep, ИИ для ловли уязвимостей. Принцип простой: пусть алгоритм заменит скучных специалистов, найдёт баги и пересчитает их по категориям. Но затем выходит человек и проверяет результаты. Ложные срабатывания? Не проблема — Google просто отложит список на 90 дней и покажет только избранному кругу.
Грош цена таким сенсациям: уязвимости всегда найдутся, даже если их не искать. Конференции с громкими названиями нужны для имитации бурной деятельности, а анонимные данные передают на благо науки, чтобы выглядеть белыми и пушистыми. Казалось бы, технологии спасают день, но почему-то список багов всегда увеличивается, а пользователи просто следят за отчётами.
Мотив на лицо: Google демонстрирует прогресс, хвалит ИИ — а заодно герметизирует репутацию заботливой корпорации. Инструмент, видите ли, продвинутый, но рука человека всё равно нужна: не верят даже себе. И да, никто не узнает, в каких местах ИИ ошибся — докуда не дотянулся человек. Так что ничего нового – баги ловят, отчёты пишут, репутацию укрепляют. Драма века: машина с багами против мира, где баг — в каждом."
