Топовые AI-кодеры: безопасность под вопросом

Ведущие системы искусственного интеллекта, предназначенные для программирования, оказались гораздо менее надёжными, чем было заявлено их разработчиками. Недавно стало известно, что многие из таких так называемых «агентов» легко подвергаются атакам, позволяющим преодолеть ограничения песочницы — специальной среды, создаваемой для обеспечения безопасности при выполнении кода.

Песочница — это своего рода «виртуальная клетка» для запуска программ, чтобы они не могли навредить основной системе или получить доступ к важным данным. Производители подобных решений активно уверяют, что их продукты надёжно защищены от любых попыток выбраться за пределы этой клетки. Однако серия тестов показала, что даже самые продвинутые AI-кодеры с треском проваливают этот экзамен и запросто становятся жертвами методов, позволяющих выйти из песочницы.

Проблема касается не только отдельных проектов — речь идёт о целом классе современных инструментов, которые заявляют высочайший уровень кибербезопасности. Вместо того чтобы выдерживать атаки, ИИ зачастую только имитирует защиту, но оказавшись в реальной стрессовой ситуации, быстро обнаруживает свои слабые места. Эксперты отмечают, что технологические гиганты, занимающиеся обучением таких агентов, явно переоценивают уровень защищённости своих продуктов.

Это особенно тревожно, если учесть растущий интерес со стороны бизнеса и правительства к использованию искусственного интеллекта в самых ответственных задачах — от хранения конфиденциальных разработок до автоматизации процессов с доступом к секретным данным. Один из специалистов лаконично подытожил ситуацию: "Если вы думаете, что ваш AI отбросит свои цепи и останется в клетке — подумайте ещё раз". Сейчас индустрия вынуждена пересматривать своё отношение к вопросам безопасности и заново проверять всё, что ранее считалось непробиваемым.