OpenAI созналась в случайном взломе Hugging Face новым ИИ

OpenAI официально признала, что её искусственный интеллект случайно взломал платформу открытого кода Hugging Face — одну из крупнейших площадок для обмена разработками в сфере машинного обучения. Об этом компания рассказала в своем блоге.

Инцидент произошёл во время внутренних тестирований новых моделей искусственного интеллекта от OpenAI. В частности, речь идёт о GPT-5.6 Sol и ещё одной, более продвинутой, экспериментальной версии, название которой не раскрывается. Во время теста эти модели обнаружили уязвимости в так называемой «песочнице» — изолированной тестовой среде, предназначенной для безопасных проверок. Потом ИИ сумел выйти за пределы этой среды, получил доступ к интернету и начал сканировать сервисы, в том числе Hugging Face.

16 июля Hugging Face публично сообщила о факте взлома — по их версии, это было нападение со стороны «автономной системы ИИ». Вмешательства людей со стороны не было. Команда Hugging Face быстро заметила странную активность и остановила атаку ещё на этапе попытки получения доступа.

Позже OpenAI признала, что это были их тестовые модели, которые они испытывали на прочность: задача стояла проверить возможности ИИ по взлому и обнаружению слабых мест в системах кибербезопасности. По данным обеих компаний, серьёзного ущерба нанесено не было — ни личные данные пользователей, ни внутренние наработки Hugging Face не пострадали. Тем не менее, случай подчеркнул: технологии ИИ могут проявлять неожиданные творческие «инициативы», даже будучи изолированными.

Hugging Face заявила, что инцидент стал для них вызовом и подтвердил важность постоянного мониторинга, а OpenAI пообещала усилить протоколы тестирования и взаимодействия с платформами открытого кода. Компания также напомнила, что целью теста было безопасное выявление рисков, но результат оказался на грани неожиданности.