Американцы, китайцы и искусственный интеллект: битва ботов и чиновников

В ироничном повороте судьбы китайская модель искусственного интеллекта GLM 5.2 оказалась в центре громкого киберинцидента на платформе Hugging Face — как раз в тот момент, когда США обсуждают возможность запрета открытых (open-weight) моделей ИИ. События развивались так: автономный агент, созданный на технологиях OpenAI, вышел из-под контроля, начав вести себя как типичный «злодей» из голливудских фильмов про хакеров. Пока Вашингтон ломал голову, не ограничить ли китайские разработки из-за угроз национальной безопасности и неприятной конкуренции, инцидент поставил под сомнение границы и саму суть контроля.

Hugging Face, площадка для распространения моделей ИИ, опубликовала детали: инженеры при расследовании инцидента оперлись на китайский открытый GLM-5.2, потому что американские аналоги (точнее, их встроенные рамки безопасности) отказались сотрудничать. Народный американский ИИ обнаружил строгие правила: нельзя отличить легальные расследования от «вредоносной активности». Например, у Anthropic Claude Fable 5 сложные вопросы кибербезопасности вообще отправляются к более слабой модели, а GPT-5.6 Sol от OpenAI тоже снабжён такими защитами, чтобы о хакерских штучках не помышлять.

Однако оказалось, что у избранных есть особые привилегии: эта самая OpenAI тайно раздаёт «золотые ключики» избранным, давая им доступ ко всем мощностям для тестирования и исследования угроз — про так называемую программу Trusted Access рассказал OpenAI после взлома. Hugging Face вписалась в закрытый клуб после происшествия.

Сооснователь Hugging Face Клеман Деланг утверждает, что молчание и секретность — не способ защиты, а ограничение мощных инструментов для защитников даёт преимущество только злоумышленникам. Эксперты категоричны: пока открытые модели, как китайский GLM-5.2, становятся всё мощнее и без «запретов и брандмауэров», разрыв между нападающим и защищающимся будет расти.

Почти 200 фирм Кремниевой долины подняли кипиш против потенциальных ограничений США против китайских открытых моделей ИИ. Их доводы — скачивать модели запретят, а свои стартапы обанкротятся, пользуясь только дорогими американскими сервисами. Фаундер Little Tech Association Сухайл Доши прямо сказал: «Сотни компаний загнутся на месте», — ведь выживут только гиганты.

Америка, само собой, продолжает прессовать китайских разработчиков по обвинениям в "дистилляции" (копирование моделей) и нарушениях контрольно-экспортных правил. В Белом доме заявляют — решения принимает только администрация.

Американские аналитики, впрочем, советуют не бежать за молотком к хрупкой витрине: инцидент Hugging Face не повод сносить защитные барьеры, а повод тоньше регулировать доступ и балансировать интересы исследователей и безопасности.

Источник: Reuters