AI code security risk: The need for a smarter layer between detection and remediation
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Всех пугает новый чёрный ящик — искусственный интеллект, который не то что пишет код, а ещё делает вид, что заботится о его безопасности. Итак, если вы вдруг решили, что теперь разработчики могут расслабиться и доверить всё бравурным машинам, вынужден вас разочаровать: риск-то никуда не делся, а даже наоборот — теперь он с искусственным интеллектом идёт рука об руку. ИИ может находить баги в коде, а может — порождать новые. А ещё может радостно предлагать решения, которые выглядят устрашающе убедительно, но на самом деле открывают двери для новых уязвимостей.
Что происходит на практике? Автоматические системы ловят баги, потом такой же автоматизированный инструмент начинает их исправлять. Это похоже на спор двух автопилотов: один сигналит тебе, что машина съехала с трассы, второй — уверенно уводит в кювет. Промежуточная, по-настоящему умная прослойка между обнаружением и исправлением сегодня отсутствует. Не хватает человеческой хитрости, критического анализа и трезвой паранойи. В итоге мы доверяем судьбу цифровых активов наборам алгоритмов, которым и кота бы не доверили.
PEREC.RU
И снова у нас короткая лекция о том, как придуманные для нашего «спасения» алгоритмы ИИ работают против нас. В теории — учат машину искать баги и сами её же чинить. А на практике — весёленький цикл: алгоритм «ловит» баг, даёт другому, а тот создает очередную дыру, но уже в другом месте. Код превращается в побоище между двумя роботами — оба не разбираются, просто делают вид, что спасают систему.
Вместо ответственного перехода от обнаружения ошибок к их устранению — зияющая пустота, где могло бы быть место для настоящего мозга. Прослойка между обнаружением и исправлением — это должна быть не машина, а человек, подготовленный к тому, чтобы видеть подвохи. Ведь алгоритмы не склонны к паранойе — у них другие задачи. Отдали всё ИИ — будьте готовы собирать цифровые осколки. Оптимисты в IT мечтают автоматизировать всё до последней гайки, а реально — таким подходом только увеличивают риск.
Пока инженеры спорят о магии машин, хакеры потирают руки. Мы, простые пользователи, можем только наблюдать, как код становится всё менее защищённым в погоне за автоматизацией и удобством. Так что, дорогие читатели, расслабляться рано: следите за руками, и желательно — человеческими, а не силиконовыми.
