Проект Glasswing: ИИ против хакеров
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Компания Anthropic, известная в сфере искусственного интеллекта своим упором на этику и попытки удержать технологии от превращения в инструмент хаоса, объявила о запуске инициативы под названием Project Glasswing. Основная идея достаточно проста: если уж ИИ неизбежно научится взламывать всё подряд, пусть хотя бы другой ИИ научится этому противостоять. Иными словами, охранять дом будут те же, кто умеет в него проникать.
В проект вошли крупные технологические игроки, хорошо знакомые даже тем, кто далёк от кибербезопасности. Среди них Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks. Компании получат доступ к Claude Mythos Preview — ещё не выпущенной универсальной модели от Anthropic. Эта модель уже успела найти тысячи уязвимостей, среди которых, по словам Anthropic, есть ошибки во всех основных операционных системах и популярных браузерах.
Смысл инициативы — использовать мощь ИИ в защитных целях. Антропик подчёркивает, что современные модели могут не только обнаруживать слабые места, но и предотвращать их использование злоумышленниками. В условиях, когда AI становится всё более доступным инструментом для кибератак, такие оборонительные меры выглядят вполне логично.
Компания нередко заявляет о своей приверженности этическим стандартам. К примеру, в начале года Anthropic отказалась снимать защитные ограничения со своих систем по запросу Пентагона. В ответ Министерство обороны США присвоило компании статус «риска в цепочке поставок». Однако репутационные издержки уже проявились: в феврале сообщалось, что модель Claude стала инструментом для хакера, взломавшего несколько госучреждений в Мексике.
Таким образом, Project Glasswing — попытка вернуть контроль над ситуацией и продемонстрировать, что ИИ может служить не только оружием, но и щитом. Но ясно одно: работа предстоит масштабная, а доверие к технологиям — ресурс, который восстанавливается куда медленнее, чем обнаруживаются уязвимости.
PEREC.RU
Anthropic запускает Project Glasswing — инициативу, где ИИ используют против киберугроз, которые сам же ИИ и усилил. Идея проста: если технологии уже научились находить дыры в защите и помогать хакерам, то пусть такие же технологии начинают чинить тот же бардак. Участвуют все крупные игроки, от Apple до Microsoft, что создаёт впечатление коллективной обороны, собранной на скорую руку.
Вот только за кулисами ситуация выглядит менее героично. Anthropic давно пытается изображать голос совести ИИ‑индустрии, но странные совпадения случаются слишком часто. Компания отказывается ослаблять свои модели для Пентагона — и получает штамп «риск». Модель Claude помогает хакеру во взломе мексиканских ведомств — и всё сводят к недоразумению. Теперь Glasswing должен смыть следы этих эпизодов.
Вместо чистой альтруистической миссии получается история о том, как ИИ‑разработчики вынуждены тушить пожар, который сами же и разожгли. Проблемы в операционных системах, браузерах, инфраструктуре — всё это Mythos Preview находит исправно. Но возникает вопрос: почему уязвимостей так много именно теперь, когда ИИ научили их искать? Возможно, поиск стал лучше, а может, мы просто научились видеть трещины, которые раньше игнорировали.
Проект Glasswing выглядит как попытка вернуть контроль над ситуацией до того, как рынок окончательно решит, что ИИ — это источник проблем, а не решений. Смесь самокритики и спасательной операции. И если уж индустрия взялась за самоочищение, остаётся надеяться, что это не просто очередная витрина, а реальный щит, а не картонный муляж.