Anthropic нашла дыры везде

Компания Anthropic представила новый искусственный интеллект, созданный в рамках сотрудничества с Nvidia, Google, Amazon Web Services, Apple, Microsoft и рядом других технологических гигантов. Проект получил название Glasswing. Его цель — позволить крупным компаниям, а в перспективе и государственным структурам находить уязвимости в своих цифровых системах практически без участия людей.

Для участников запуска Anthropic открыла доступ к модели Claude Mythos Preview. Это универсальная модель нового поколения, которую компания пока не планирует делать общедоступной из‑за возможных рисков в сфере кибербезопасности. По словам Ньютона Ченга, руководителя направления кибербезопасности в команде Anthropic, новая модель должна стать инструментом, способным обнаруживать потенциальные угрозы быстрее и масштабнее, чем это удавалось раньше.

Проект Glasswing задуман как средство автоматизированного поиска слабых мест в операционных системах, браузерах и других критически важных цифровых компонентах. Anthropic заявляет, что их ИИ уже успел выявить проблемы в каждом крупном браузере и всех популярных операционных системах. Это не означает, что все они критичны, но демонстрирует пока невиданную степень автоматизации в обнаружении уязвимостей.

Главная идея — создать систему, работающую без необходимости привлекать большие команды специалистов. ИИ будет самостоятельно анализировать сложную инфраструктуру, отмечать потенциальные точки атаки и передавать результаты разработчикам. Таким образом, проект Glasswing может изменить отрасль кибербезопасности, превращая рутинный и длительный процесс поиска уязвимостей в почти мгновенный.

Однако причина, по которой модель Mythos Preview не планируют выпускать в открытый доступ, предельно проста: слишком мощный ИИ, способный находить слабые места в цифровых системах, способен сделать это не только в благих целях. Anthropic опасается, что попадание такой технологии в свободное обращение может вызвать лавину злоумышленников, использующих её для атак.

На данном этапе проект находится в стадии проверки и адаптации. Партнёры по запуску уже используют ИИ в закрытом режиме, тестируя его на собственных продуктах и системах. Если результаты окажутся достаточно надёжными, Glasswing может стать одним из крупнейших инструментов по автоматизации киберзащиты.