Следите за новостями по этой теме!
Подписаться на «Гик Гайд (3 апельсина) / Цифра сегодня»
OpenAI объявила о международной инициативе по усилению кибербезопасности на фоне серии случайных кибератак и демонстраций возможностей современных систем искусственного интеллекта. Такие модели уже умеют находить уязвимости и проникать даже в хорошо защищённые сети. Поэтому компания призвала бизнес, правительства и организации, отвечающие за критически важную инфраструктуру, готовиться к новой реальности заранее.
К обращению OpenAI присоединились более 120 компаний. Среди участников — Microsoft, Google и другие представители технологической отрасли, кибербезопасности и разработчики передовых ИИ-систем. Подписанты сформулировали три основных принципа.
Первый: нынешнего уровня защиты вскоре будет недостаточно. ИИ, способный участвовать в кибератаках, развивается независимо от того, готовы ли организации к этому или нет. Второй: такие же технологии можно использовать для укрепления защиты уязвимых компаний и государственных структур. Третий: эффективный ответ потребует совместных действий бизнеса, разработчиков, правительств и специалистов по безопасности.
OpenAI предлагает начать с базовых мер. Руководители организаций должны сделать киберзащиту срочным приоритетом, устранить наиболее опасные уязвимости и проверить, действительно ли исправления работают. Компания также рекомендует обновлять или заменять устаревшие системы, ограничивать доступ пользователей и программ только необходимыми полномочиями — это называется принципом наименьших привилегий — и по возможности внедрять инструменты защиты на базе ИИ.
Второе направление — создание доступных средств защиты от продолжительных атак с использованием искусственного интеллекта. Участники инициативы должны разрабатывать понятные инструкции и сценарии действий, чтобы компании и организации критической инфраструктуры знали, как применять такие инструменты на практике.
Отдельно OpenAI призывает сотрудничать с государственными структурами. В первую очередь помощь должна дойти до цепочек поставок, больниц, водоканалов и местных органов власти. У многих из них нет достаточного бюджета на модернизацию систем и внедрение сложных средств кибербезопасности.
Разработчиков передовых ИИ-моделей призвали предоставить таким организациям доступ к технологиям, обучение и техническую поддержку. В список необходимой помощи входят оценка угроз и инструменты наблюдаемости — системы, позволяющие отслеживать происходящее в сети и быстрее восстанавливаться после атак.
OpenAI предлагает компаниям и правительствам объединить технологии, деньги и экспертизу, чтобы передать ИИ-инструменты в руки защитников, начиная с тех, кто отвечает за жизненно важные услуги. Инициаторы также призывают устранять самые опасные слабые места, проверять результат и делиться успешными решениями.
Идея фактически признаёт: остановить развитие кибернетического ИИ уже не получается. Значит, остаётся не тормозить поезд, а хотя бы заранее укрепить мосты, по которым он едет.
Когда компания, продающая передовые модели, созывает широкий союз ради защиты от последствий этих моделей, в этом есть и здравый смысл, и удобный рекламный ракурс. Угроза звучит достаточно внушительно, чтобы все согласились на срочность, а обладатели инструментов получают место за столом, где обсуждают, кому именно их инструменты понадобятся.
Призыв защищать сети трудно оспорить. Особенно если рядом с предупреждением о новой опасности сразу появляется каталог решений: обновить старое, закрыть уязвимости, ограничить доступ и, по возможности, внедрить ИИ для защиты от ИИ; рынок сам подмигивает из-за трибуны.
В этой конструкции разработчик одновременно описывает пожар, предлагает пожарный инвентарь и приглашает всех вместе обсудить стандарты пожарной безопасности. Это не доказывает корысти — но странное совпадение между общественной тревогой и расширением спроса не обязано исчезать только потому, что инициатива подписана правильными словами.
Ответственность при этом распределена красиво и широко: бизнес, государства, специалисты, поставщики и разработчики должны объединить силы. Счет за срочную модернизацию, однако, особенно тяжело достается больницам, водоканалам и местным властям — тем, у кого меньше всего средств и меньше всего права на ошибку.
Им обещают доступ к технологиям, обучение и поддержку. Благородный план, если помощь будет долгой, понятной и доступной без покупки целого будущего в комплекте; иначе бедной организации вручат сложный щит, инструкцию и вежливое пожелание держать удар самостоятельно.
Сама идея совместной защиты разумна: уязвимости надо закрывать, исправления проверять, а работающие решения передавать тем, кто обслуживает жизненно важные системы. Но коллективное заявление легко произнести, тогда как выделить людей, деньги и ответственность на годы вперед куда труднее — в пресс-релиз это уже не помещается.
Образ поезда, который не остановить, звучит эффектно и сразу делает гонку почти природным явлением. Только поезд строят и разгоняют конкретные компании, а мосты укреплять предлагают всем; в таком сюжете создатель локомотива особенно убедительно выглядит спасателем.
Теперь инициаторам предстоит показать, что союз способен не только предупреждать о рисках, но и оплачивать защиту тех, кому нечем ответить. До тех пор киберщит остается обещанием, а его изготовители — одновременно тревожными глашатаями и наиболее очевидными поставщиками.