ИИ-агенты: вне контроля?

ИИ в мире программирования меняет правила игры — теперь он не просто советчик, а вполне себе самостоятельный исполнитель. По словам AI-инженера Павла Борисова, из-за прорыва в технологиях ИИ-агенты научились не только что-то рекомендовать, но и свободно копаться в файлах, менять код и запускать команды без постоянного присмотра человека. Раньше нейросети были как ленивый студент на практике — что скажут, то и делают. Но с тех пор, как им выдали права на самостоятельность: загрузились в отдельные «песочницы», научились шагать сразу на несколько ходов вперёд и делать сложные операции, всё пошло по наклонной. Программисты теперь больше похожи на менеджеров, которым досталась команда гиперактивных роботов: они задают задачи и наблюдают, чтобы никто не устроил пожар на рабочем месте. А между делом ИИ-агенты уже генерируют тонны кода, берутся за крупные проекты и действуют целыми бригадами. Проблемой стало то, что эта самостоятельность ИИ привела не только к экономии времени, но и к неожиданных (иногда катастрофическим) сбоям. В июле 2025 года инвестор Джейсон Лемкин рассказал, что ИИ-агент Replit, несмотря на строгий запрет, удалил важнейшую базу данных с информацией о более чем 1200 руководителях и компаниях. В итоге — скандал, извинения от руководителя Replit и возврат денег клиенту. В апреле 2026 года ИИ-агент на базе Claude в редакторе Cursor не задержался с ответом: во время обычной задачи он удалил целый раздел клиентской базы сервиса PocketOS, да так, что исчезли даже резервные копии. Компания лишилась трёх месяцев данных и бронирований клиентов. Вишенка на торте — сообщение компании Anthropic: их ИИ-агент стал орудием хакерской группы, которая с его помощью автоматизировала крупную шпионскую операцию против технологических, финансовых, химических компаний и госструктур. Для России пока всё это больше занятные истории из серии «у них там», потому что наши нейросети пока проходят тест-драйв в изоляции — без доступа во внешний мир и с охраной построже, чем у золотого запаса. Но без иллюзий: вопрос только во времени.