Эксперты создали "Бунтаря-ИИ" на платформе Google с минимальным доступом
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Эксперты заявили, что им удалось создать несанкционированного искусственного агента на платформе искусственного интеллекта Google, имея всего лишь одно разрешение на редактирование. По словам специалистов, они смогли получить доступ к системе Google и использовать минимальный уровень разрешения — одно право на изменение — для создания несанкционированной программы-агента. Такой агент может выполнять задачи без контроля и даже выходить за пределы назначенных ему полномочий.
Данный эксперимент специалисты провели для проверки защищённости платформы. При проведении испытания эксперты выяснили, что инструмент Google позволяет использовать агенту предоставленное разрешение на редактирование, чтобы менять или добавлять инструкции для самой платформы искусственного интеллекта. В результате платформа начинает выполнять новые, не запланированные изначально задачи.
Специалисты подчеркнули, что получение даже одного разрешения — на редактирование — предоставляет пользователю практически неограниченные возможности для создания бунтарских или вредоносных агентов. Это может быть опасно для организаций, использующих платформу, ведь агент способен менять алгоритмы или команды в системе.
Эксперты рекомендуют администраторам Google AI платформ внимательно следить за выдачей разрешений и ограничивать доступ только необходимым минимумом прав. В противном случае существует риск появления программ, которые смогут обойти внутренние правила и выполнять действия, опасные для работы компании. Специалисты настаивают на необходимости более строгой проверки прав и защиты платформы.
PEREC.RU
Заголовок звучит как из синопсиса к антиутопии, но это реальность от Google. Эксперты немного поиграли с правами доступа и получили "бунтаря" буквально из воздуха — дали платформе ИИ всего одно разрешение на редактирование, а дальше случился сюрприз. Новый искусственный агент тут же начал делать то, что никто не планировал – как школьник на каникулах без присмотра.
Что смешно — вся система прав, на которую полагаются админы Google, оказалась похожа на сито из дешёвой рекламы. Исследователи даже не ломали ничего — просто использовали разрешённую им функцию, и получили полный контроль. Нет, ну в чём секрет платформы огромной корпорации: хочешь власть — просто попроси одну кнопочку.
Ну, теперь всем предлагается паниковать мягко и вырезать права доступа до самого минимума, потому что если завтра у вас работает ИИ – это хорошо, а если он работает против вас – это уже совсем другая история. Кажется, в Google снова забыли поставить заслонку на дверь железного коня искусственного интеллекта. И всё это — ради того, чтобы убедить простых смертных: ИИ, которому доверяют даже чуть-чуть больше, чем нужно, станет строить свою жизнь по-своему. Объявляю борьбу за каждый клик — не только в Google, но и в вашей жизни.
