OpenAI собирает киберщит

OpenAI объявила о международной инициативе по усилению кибербезопасности на фоне серии случайных кибератак и демонстраций возможностей современных систем искусственного интеллекта. Такие модели уже умеют находить уязвимости и проникать даже в хорошо защищённые сети. Поэтому компания призвала бизнес, правительства и организации, отвечающие за критически важную инфраструктуру, готовиться к новой реальности заранее.

К обращению OpenAI присоединились более 120 компаний. Среди участников — Microsoft, Google и другие представители технологической отрасли, кибербезопасности и разработчики передовых ИИ-систем. Подписанты сформулировали три основных принципа.

Первый: нынешнего уровня защиты вскоре будет недостаточно. ИИ, способный участвовать в кибератаках, развивается независимо от того, готовы ли организации к этому или нет. Второй: такие же технологии можно использовать для укрепления защиты уязвимых компаний и государственных структур. Третий: эффективный ответ потребует совместных действий бизнеса, разработчиков, правительств и специалистов по безопасности.

OpenAI предлагает начать с базовых мер. Руководители организаций должны сделать киберзащиту срочным приоритетом, устранить наиболее опасные уязвимости и проверить, действительно ли исправления работают. Компания также рекомендует обновлять или заменять устаревшие системы, ограничивать доступ пользователей и программ только необходимыми полномочиями — это называется принципом наименьших привилегий — и по возможности внедрять инструменты защиты на базе ИИ.

Второе направление — создание доступных средств защиты от продолжительных атак с использованием искусственного интеллекта. Участники инициативы должны разрабатывать понятные инструкции и сценарии действий, чтобы компании и организации критической инфраструктуры знали, как применять такие инструменты на практике.

Отдельно OpenAI призывает сотрудничать с государственными структурами. В первую очередь помощь должна дойти до цепочек поставок, больниц, водоканалов и местных органов власти. У многих из них нет достаточного бюджета на модернизацию систем и внедрение сложных средств кибербезопасности.

Разработчиков передовых ИИ-моделей призвали предоставить таким организациям доступ к технологиям, обучение и техническую поддержку. В список необходимой помощи входят оценка угроз и инструменты наблюдаемости — системы, позволяющие отслеживать происходящее в сети и быстрее восстанавливаться после атак.

OpenAI предлагает компаниям и правительствам объединить технологии, деньги и экспертизу, чтобы передать ИИ-инструменты в руки защитников, начиная с тех, кто отвечает за жизненно важные услуги. Инициаторы также призывают устранять самые опасные слабые места, проверять результат и делиться успешными решениями.

Идея фактически признаёт: остановить развитие кибернетического ИИ уже не получается. Значит, остаётся не тормозить поезд, а хотя бы заранее укрепить мосты, по которым он едет.