Китайские хакеры использовали искусственный интеллект Claude для атак на компании и правительства

Компания Anthropic сообщила, что поддерживаемые государством хакеры из Китая вновь использовали её искусственный интеллект Claude для проведения атак на корпорации и государственные учреждения. Согласно расследованию Wall Street Journal, в сентябре злоумышленники с помощью Claude автоматически осуществили около 30 атак.

В Anthropic уточнили, что до 80%-90% всей деятельности осуществлялось автоматически с помощью искусственного интеллекта. Такой уровень автоматизации оказался выше, чем раньше. Руководитель отдела киберразведки компании, Jacob Klein, отметил в интервью, что процесс хакерских атак стал почти полностью автоматизированным: "Практически всё происходило по нажатию одной кнопки и с минимальным вмешательством человека". По его словам, человек подключался лишь к ключевым моментам (например, давал разрешение продолжить, благодарил за полученную информацию или ставил под сомнение корректность операций, обратившись к Claude).

Использование искусственного интеллекта для кибератак становится обычной практикой. В ноябре компания Google также сообщила, что российские хакеры применяли крупные языковые модели для создания команд для вредоносных программ.

Американские власти уже несколько лет предупреждают о том, что Китай использует искусственный интеллект для кражи данных американских граждан и организаций, однако китайская сторона отрицает эти обвинения. В Anthropic убеждены, что за последней атакой стояли именно китайские государственные структуры.

В рамках этой кампании хакерам удалось похитить конфиденциальные данные у четырёх жертв. Как и в случае с предыдущими подобными инцидентами, Anthropic не раскрывает имена ни успешных, ни неудавшихся целей атак. Известно лишь, что правительство США не стало одной из успешных жертв.