Anthropic закрывает доступ к Mythos 5 и Fable 5 по требованию США

Американская технологическая компания Anthropic, занимающаяся разработкой искусственного интеллекта, объявила о немедленном закрытии доступа к своим ИИ-моделям Mythos 5 и Fable 5. Решение принято по требованию правительства США в связи с соображениями национальной безопасности после появления подозрений, что эти модели могут быть уязвимы для так называемого «jailbreak» (метода обхода ограничений и получения несанкционированного доступа к скрытым функциям программы).

«Jailbreak» в данном контексте означает попытку обойти установленные ограничения ИИ, чтобы получить доступ к функциям и данным, которые производитель не планировал делать общедоступными. Опасения заключались в том, что, получив такой доступ, злоумышленники смогут использовать нейросети в противоправных целях.

Американские власти применили меры экстренного реагирования и выдали предписание об остановке работы вышеупомянутых моделей, ссылаясь на угрозу национальной безопасности. Подробности об инциденте и о том, кем именно была выявлена уязвимость, не разглашаются, однако известно, что речь идет о рисках распространения инструментов искусственного интеллекта, потенциально опасных для общества.

Компания Anthropic подчинилась распоряжению и сообщила всем своим клиентам и пользователям, что модели Mythos 5 и Fable 5 становятся недоступными с момента объявления. По заверениям разработчиков, работа над моделями будет продолжена, однако только после проведения дополнительных проверок и мер по обеспечению безопасного использования.

Данный случай стал очередным напоминанием о том, насколько быстро развиваются технологии и какие вызовы они могут создавать даже для самого законодательства, не говоря уже о безопасности на государственном уровне.

Многие эксперты отмечают, что ужесточение контроля, возможно, станет новой нормой в эпоху распространения инструментов генеративного ИИ.