Anthropic меняет правила хранения данных для бизнеса

Компания Anthropic представила Enterprise Frontier Safeguards (EFS) — новую систему контроля безопасности для корпоративных клиентов. Ее задача — обнаруживать злоупотребления передовыми моделями искусственного интеллекта, не заставляя компании передавать Anthropic содержимое своих запросов и ответов.

Вопрос оказался не теоретическим. Anthropic предупреждает, что современные ИИ-модели могут использоваться для мошенничества, кибератак и других автономных угроз. Чтобы заметить такую активность, иногда недостаточно проверить одну сессию: системе приходится сопоставлять поведение сразу в нескольких диалогах, учетных записях и пользовательских профилях.

Ранее компания ввела для некоторых моделей правило хранения связанных с безопасностью данных на протяжении 30 дней. Оно помогало искать подозрительные шаблоны поведения, но вызвало недовольство корпоративных клиентов и особенно организаций из регулируемых отраслей. Финансовым компаниям, медицинским учреждениям и государственным структурам не понравилась перспектива, что чувствительная информация может оказаться под контролем внешнего поставщика.

EFS предлагает перенести хранение данных мониторинга в облачную инфраструктуру, которой управляет сам заказчик. При этом Anthropic обещает не хранить промпты — текстовые запросы пользователей к ИИ — и ответы модели, сохраняя корпоративные гарантии конфиденциальности.

Автоматическая система будет анализировать разрешенные клиентом сведения и передавать обнаруженные подозрительные случаи непосредственно компании. Сотрудники Anthropic не должны получать доступ к потенциально чувствительным материалам. Таким образом, окончательную проверку сможет проводить специалист самого заказчика — требование, на котором особенно настаивали организации из регулируемых сфер.

По словам Anthropic, EFS создавалась совместно более чем со 100 клиентами из финансового сектора, здравоохранения, промышленности, телекоммуникаций, юридических услуг, розничной торговли и государственного управления.

Запуск системы начнется осенью поэтапно. Клиентам потребуется зарегистрироваться, чтобы получить доступ к EFS. До ее подключения подходящие корпоративные заказчики временно получат нулевое хранение данных для моделей Fable 5 и Fable 5.1.

Новая схема пытается примирить два требования, которые обычно смотрят друг на друга как бухгалтер и хакер на одном совещании: Anthropic хочет отслеживать опасное применение ИИ, а бизнес — чтобы корпоративные данные не покидали его инфраструктуру. Получится ли у EFS закрыть этот конфликт, покажет практическое внедрение.