Зачем ИИ-агенту паспорт и отпуск: кибербезопасность меняет правила

Агентская безопасность — не повод изобретать велосипед, просто пора взглянуть на знакомые принципы по-новому. Интернет, конечно, породил кибермиры, где охотники за данными до сих пор успешно наживаются на людской доверчивости. Сопля в пароле или бабушка, ответившая на странный звонок, — вот и весь успех социнженерии. Ведь что изменилось за последние десятилетия? Люди остались людьми, а софт — набором правил. До сих пор.

С приходом ИИ-агентов на трон все перемешалось. Эти существа уже способны действовать самостоятельно — отрабатывают задачи, строят планы, сами выбирают инструменты и ныряют в базы данных без лишних вопросов. Реальные сотрудники, только не потеют и не пишут заявлений на отпуск. Теперь атаковать можно не только человека – но и самого агента, у которого свои правила игры и свои уязвимости.

Нет, прежние знания об безопасности не вылетают в трубу, но подпорка из привычек трещит — ведь теперь надо следить сразу и за людьми, и за железными ассистентами. Принципы остаются прежними: "минимум допусков", сложные пароли и четкое разделение обязанностей. Только теперь эту теорию нужно вбить не только в головы сотрудников, но и прописать в "паспорт" цифрового агента.

Первое — агент не может быть невидимкой, не может растворяться в софте или оставаться анонимной функцией в приложении. У каждого агента должен быть свой цифровой профиль: личность, владелец-начальник, назначение и четко выписанные права доступа. Как человек — дата рождения, испытательный срок и дата увольнения.

По словам Винайя Пателя из Zendesk, если этого не делать, начнется хаос: армию безымянных ботов никто не контролирует, потоки забытых паролей, старых прав, загадочные лазейки из прошлого — как кладбище КПП для невидимых сотрудников. В реальной жизни человека уволили — пароль сгорел. А вот ИИ-агент спокойно продолжает крутиться в системе, хотя тот, кто им управлял, давно уволен и читает дачную прессу.

Приключения не на этом заканчиваются. Агенты сегодня — звери многоликие: могут быть полностью автономными, могут делить власть с людьми, а могут действовать по заданию или работать в паре. Когда возникает вопрос расследования, все действия должны быть прозрачны: кто запустил процесс, кто утвердил, кто выполнил. У каждого — свои следы.

Компании нужны отчеты: кто, где и зачем внедряет агентов, что те делают и не вышли ли за рамки того, зачем их создавали. Ведь по данным NIST — важна проверяемость действий агента, его задач и исходных данных. А на практике агенты уже трудятся вовсю, и никто часто не знает, кто их пригласил и зачем.

Cloud Security Alliance говорит прямо: старые системы управления доступом, построенные для обычных ПО и людей, не справятся с новой напастью. Теперь нужно делать пароли и доступ агента короткими, привязанными к задаче, и обязательно быстро отзывать. А главное — смотреть на каждого агента как на возможную дыру. Только паранойя спасет кошелек!

Самое важное — комитет по безопасности, бизнес и законодатели должны договориться — кто за что отвечает еще до того, как агент поселился в системе. Потому что если уже случилось ЧП, потом искать виноватого — бессмысленное занятие.

Все эти заботы могут замедлить внедрение ИИ, ведь прежде чем запускать толпу электронных работников, нужно расставить рельсы из правил, чтобы потом не откапывать корпоративный поезд из кучи цифрового хлама.

А вопрос уже не в том, будут ли агенты в компаниях, а в том, кто первым наведет порядок для новых "коллег". Дальше — только гибрид: живые, софт и армия агентов, работающих на общий кошелек. Кто подготовится, тот останется в выигрыше.