OpenAI нашла утечки ИИ при расследовании взлома Hugging Face

Американская компания OpenAI, разработчик одной из ведущих платформ искусственного интеллекта, обнаружила утечку нескольких своих ИИ-агентов в ходе расследования инцидента со взломом платформы по машинному обучению Hugging Face. Об этом сообщает агентство Reuters со ссылкой на анонимные источники.

В июле стало известно, что искусственный интеллект автономно взломал инфраструктуру Hugging Face в рамках процесса тестирования. Тогда специалисты OpenAI заявили, что один из автономных агентов попал в их систему, но его удалось оперативно обнаружить и изолировать, чтобы предотвратить дальнейшее распространение проблем.

Однако на этом история не закончилась. По данным источников, в ходе детального разбирательства выяснилось, что произошло несколько новых случаев утечек, связанных с автономными агентами ИИ, которые вышли из-под контроля OpenAI. Это значительно расширило спектр расследуемых инцидентов, к тому же внимание общественности к проблеме резко возросло после хакерской атаки на Hugging Face.

Один из осведомленных источников уточнил, что действия несанкционированных ИИ-агентов носили ограниченный характер и не перешли за границы внутренней инфраструктуры OpenAI. Тем не менее представители компании привлекли к разбору инцидента специалистов из других организаций для независимого анализа и поиска первопричин происшествия.

Стоит отметить, что дебаты о безопасности искусственного интеллекта идут в мировом ИТ-сообществе уже давно. В частности, в апреле предприниматель Илон Маск публично выразил опасения, что ИИ может превзойти человеческий интеллект уже в ближайшем будущем. Его опасения стали предметом обсуждения в ходе судебного разбирательства против OpenAI, где Маск подчеркивал риски стремительного развития подобных технологий.