ИИ нашёл дыры — банк нанял тысячу латальщиков

Bank of America пришлось привлечь около 1 000 подрядчиков, чтобы устранить программные уязвимости, обнаруженные Mythos — моделью генеративного искусственного интеллекта компании Anthropic. По словам руководителя банка Брайана Мойнихана, на исправление ошибок и решение связанных с требованиями регуляторов вопросов компания потратила «пару сотен миллионов долларов и больше». Речь идёт о сумме свыше 100 млн долларов.

Anthropic представила Mythos в апреле 2026 года. Компания заявила, что модель обладает продвинутыми возможностями в сфере кибербезопасности: она способна самостоятельно находить ранее неизвестные уязвимости в программном обеспечении и использовать их. Возможность не только обнаруживать слабые места, но и эксплуатировать их сделала инструмент настолько мощным и опасным, что Anthropic ограничила доступ. Его получили лишь некоторые проверенные организации — среди них правительство США, компании критической инфраструктуры, банки и фирмы по кибербезопасности.

Bank of America, судя по словам Мойнихана в интервью CNBC, оказался среди допущенных к Mythos организаций. Когда модель начала выявлять ошибки в системах банка, руководство расценило ситуацию как «реальный риск» и разработало план устранения уязвимостей.

«Во втором квартале мы привлекли 1 000 подрядчиков для работы по исправлению уязвимостей. Они остаются с нами и сейчас, помогая нашей команде из 3 000 человек в этой области», — рассказал Мойнихан CNBC. Ранее в тот же день он сообщил аналитикам, что банк потратил на исправление ошибок и решение вопросов регулирования «пару сотен миллионов и больше».

Для банка такого масштаба столь заметное расширение команды и расходов — необычная мера. Мойнихан подчеркнул, что рост затрат временный: после того как уязвимости устранят, объём работ сократится. «Когда исправления установлены, исправлять приходится меньше. Работа проходит по цепочке», — пояснил он.

Дополнительные расходы связаны и с соблюдением требований федеральных властей и властей штатов. Как сообщило издание The Next Web, эти траты последовали за штрафными мерами Министерства финансов США на сумму более 1,21 млрд долларов, объявленными 13 октября. Федеральные регуляторы заявили, что банк не сообщил о подозрительных операциях на 5 млрд долларов и не завершил выполнение предписаний, выданных в 2024 году.

Bank of America не единственный крупный банк, который проверяет системы после работы Mythos. Несколько месяцев назад глава JPMorgan Chase Джейми Даймон сообщил, что банк сотрудничает с другими финансовыми организациями и поставщиками технологий, чтобы подготовить системы к новым угрозам. В интервью Bloomberg TV он назвал эту работу серьёзной и сказал, что сейчас ею на постоянной основе занимаются, по его оценке, сотни сотрудников.

Глава Goldman Sachs Дэвид Соломон в середине апреля заявил, что внимательно следит за возможностями Mythos и что компания тесно работает с технологической фирмой. Он также отметил стремительное развитие больших языковых моделей — программ, обученных работать с текстом и кодом, — и сказал, что банки учитывают новые возможности ИИ при поддержке правительства США и разработчиков моделей.

При первом представлении Mythos Anthropic заявила, что модели достигли такого уровня программирования, при котором способны превосходить почти всех людей, кроме наиболее опытных специалистов, в поиске и использовании уязвимостей. Компания предупредила, что последствия могут быть серьёзными для экономики, общественной безопасности и национальной безопасности.

Компании, которые протестировали Mythos, подтвердили, что его возможности необычайно высоки. Mozilla назвала модель сопоставимой с лучшими специалистами по безопасности: за один раунд тестирования она выявила 22 уязвимости, способные повлиять на безопасность. Palo Alto Networks нашла с помощью Mythos более двух десятков критических уязвимостей примерно за три недели. Одновременно испытания показали, что компаниям потребуются существенно большие бюджеты на кибербезопасность с применением ИИ.