ИИ завалил кибербезопасность - Новости IT perec.ru

ИИ завалил кибербезопасность

31.10.2026, 17:36:00 ИТ
✮✮✮✮✮
Хроника:
ИИ завалил кибербезопасность

Искусственный интеллект стал одновременно усилителем угроз и инструментом спасения для безопасности открытого программного обеспечения. Последние годы число сообщений об уязвимостях быстро растёт, а специалисты, которые должны проверять эти сведения и выпускать исправления, не успевают за потоком.
На конференции Linux Foundation Open Source Summit Джейми Томас, директор IBM по инновациям для корпоративной безопасности, назвала ситуацию «небольшим цунами раскрытия уязвимостей». По её оценке, в 2026 году может появиться около 66 тысяч уникальных записей об уязвимостях. Это примерно в четыре раза больше, чем семь лет назад.
Проблема не только в количестве. Киберпреступники всё быстрее используют найденные слабые места. По общедоступным данным, время от обнаружения уязвимости до попытки её эксплуатации сократилось с нескольких дней до 29 минут. Томас также отметила резкий рост кибератак и вредоносных кампаний.
Для компаний, активно использующих open source — программное обеспечение с открытым исходным кодом, — это особенно опасно. Ошибка в популярном компоненте может одновременно затронуть сотни или тысячи приложений и организаций. Причём злоумышленники не обязательно ждут публичного объявления: иногда они начинают действовать ещё до того, как сообщество получает готовый патч. Поэтому время эксплуатации в некоторых случаях можно считать «отрицательным»: уязвимость уже используют, а исправления ещё нет.
ИИ способен ускорить поиск проблем, но вместе с полезными находками производит горы дубликатов, ошибок и сообщений, с которыми невозможно работать. Крупные компании с отдельными командами безопасности испытывают перегрузку, а небольшие open-source-проекты часто поддерживают всего несколько разработчиков или один человек.
В начале 2026 года разработчики curl — популярной консольной утилиты и программной библиотеки — закрыли свою программу поиска ошибок на платформе HackerOne. По их словам, финансовые стимулы привели к потоку плохо проверенных и иногда полностью выдуманных сообщений, в том числе созданных с помощью ИИ.
С похожей проблемой столкнулась Google. Компания временно приостановила программу вознаграждений за уязвимости в открытом программном обеспечении после резкого роста недействительных и нерелевантных заявок, многие из которых, предположительно, были сгенерированы ИИ. С 1 октября 2026 года новые заявки не принимаются; пересмотр программы запланирован на начало 2027 года.
На перегрузку жаловался и создатель Linux Линус Торвальдс. По его словам, охотники за ошибками с ИИ сделали рассылку Linux по вопросам безопасности «почти полностью неуправляемой». Исследователи нередко используют одинаковые инструменты и присылают дубликаты уже исправленных или ранее заявленных проблем.
Джейми Томас предлагает не отказываться от ИИ для поиска уязвимостей, а применить его и к обработке результатов. Инициатива Linux Foundation Open Source Security Foundation, объединяющая технологические компании, разработчиков и open-source-сообщество, могла бы укрепить безопасность цепочки поставок программного обеспечения.
ИИ может фильтровать дубликаты и фиктивные сообщения, оценивать серьёзность ошибок и выделять те, которые требуют немедленной реакции. Он также способен помогать разработчикам разбираться в уязвимом коде, предлагать исправления и проверять, не создаёт ли новый патч дополнительные проблемы.
Но здесь есть важная оговорка: более ранние исследования показывали, что большинство сгенерированных ИИ рекомендаций по исправлению могли приносить больше вреда, чем пользы. Поэтому автоматизация должна помогать специалистам, а не получать право единолично чинить цифровую реальность.


PEREC.RU

Кибербезопасность снова переживает небольшое цунами — достаточно небольшое, чтобы поместиться в слайд, и достаточно большое, чтобы продавать новые спасательные круги. Поток ошибок растёт, а вместе с ним растёт и число участников, готовых монетизировать борьбу с потоком ошибок.

Открытый код держится на людях, которым часто достаётся ответственность без соответствующего бюджета. Когда автоматизированный охотник присылает им пачку сомнительных находок, он может считать, что помогает миру; мир в это время выставляет счёт волонтёру за проверку каждой строки.

Самые интересные цифры здесь не столько про уязвимости, сколько про скорость тревоги. Пока одна команда объявляет риск, другая уже пытается его использовать — и на этом коротком расстоянии между паникой и исправлением отлично помещаются аудиторы, платформы, консультанты и очередной срочный продукт.

Вознаграждение за ошибки звучало как разумный стимул: найдёшь проблему — получишь деньги. Затем в очередь пришли автоматические заявки, и стимул стал похож на щедрый кран, который открыли в комнате с одним уставшим сантехником. Оказалось, что за количество сообщений тоже приходится кому-то платить — временем тех, кто их разбирает.

Предлагаемая реакция предсказуема и отчасти разумна: пусть ИИ сортирует сообщения, оценивает риск и предлагает исправления. Та же технология, которая производит шум, получает должность диспетчера; так рынок устраивает себе круглосуточную смену без необходимости объяснять, почему его предыдущая автоматизация увеличила нагрузку.

Но фильтр не отменяет вопроса, кто проверяет фильтр и кто отвечает за патч, если машинная уверенность окажется художественным жанром. Разработчику предлагают ещё один помощник, ещё один поток сигналов и ту же старую обязанность не ошибиться — только теперь под вывеской «масштабирования безопасности».

У ИИ может быть полезная роль в защите открытого кода. Только бесплатным ресурсом здесь снова рискуют сделать тех, кто поддерживает его из последних сил, пока крупные игроки продают инструменты и рассказывают о коллективной ответственности. Цифровую реальность чинят не пресс-релизы: чинит её человек, которому всё ещё нужно понять, что именно машина сломала.

Поделиться

Похожие материалы