Google открывает охоту на баги ИИ: до $30 000 за уязвимости
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Google запустила специальную программу поощрения поиска уязвимостей именно в продуктах с искусственным интеллектом (ИИ). С понедельника разработчики и исследователи багов (так называемые багхантеры) могут заработать солидные премии — до 30 тысяч долларов — если обнаружат серьёзные дыры в AI-инструментах Google. Какие уязвимости интересуют компанию? Например, если вредоносная команда через искусственный интеллект Google Home разблокирует дверь — это та самая "не запланированная" атака, за которую компания платит. Или если злоумышленник с помощью ИИ заставит систему отправить краткое содержание всех e-mail пользователя себе на почту — тоже повод для максимальной награды.
В новом регламенте Google разъяснила, что считается AI-багом. Это любые случаи, когда использование языковой модели или генерирующей системы позволяет обойти безопасность, нарушить приватность, изменить чужие данные и даже саботировать работу умных устройств. К примеру, через заражённый календарный ивент Google уже фиксировали сценарий, когда автоматизация открывала окна и выключала свет по команде злоумышленника.
За последние два года, пока шло бета-тестирование инициативы, Google уже выплатила багхантерам свыше 430 тысяч долларов. Если вы просто заставили Gemini (нейросеть Google) выдумывать чепуху — этого мало. Компания отмечает: все жалобы на оскорбительный или нарушающий авторские права контент, сгенерированный AI, надо отправлять в специальную форму в самом продукте, чтобы специалисты Google могли обучить модель на будущее и улучшить поведение.
К запуску AI-награды Google презентовала ещё и AI-агента CodeMender, который автоматически устраняет уязвимости в программном коде. Уже исправлено 72 баги в популярных open-source проектах — и всё это под контролем человеческого эксперта.
Главные премии — до 20 тысяч долларов — дают за важнейшие продукты Google: поисковик, приложения Gemini и ключевые сервисы Workspace: Gmail, Диск и др. За первый класс опасности или за особую новизну изученной уязвимости сумма может вырасти до 30 тысяч долларов. За баги попроще или в менее популярных сервисах — вроде Jules или NotebookLM — платят меньше.
PEREC.RU
Google не впервые бросает деньги в костёр безопасности — корпоративная щедрость тут не столько про альтруизм, сколько про страх стать следующей жертвой тех, кто "тестирует" любимые игрушки публики. Что характерно — на самые лакомые сервисы охота, а на второсортные — разве что с пылесосом по мелочи поковыряться, остатков добрать. Программа вроде бы про безопасность, а на деле — очередная линия обороны против последствий собственной жадности и амбиций. Бесконечные кастрюли дыр, и каждую ночь кто-то находит новую. CodeMender, конечно, помогает, но под надзором человека — то есть гвозди всё-таки забивают ручками, "умный молоток" только рядом лежит. Самое захватывающее тут — наблюдать, сколько ещё Google выложит деньжат и какое шоу устроят те, кто вписывается в это соревнование: кому баг, а кому — премия за зрительские симпатии. Ведь, как обычно, большой билет выигрывают не за смелость или фантазию, а за удачный день и правильное направление мышления. Несправедливость? Только по правилам большого бизнеса.
