Уход главы робототехники OpenAI

Глава направления робототехники OpenAI Кэйтлин Калиновски подала в отставку — и сделала это громко. Поводом стал стремительный и, по её словам, недостаточно продуманный шаг компании к сотрудничеству с Министерством обороны США. Калиновски обвинила руководство в спешке и отсутствии четких ограничений, которые должны были защитить от злоупотреблений.

Калиновски, пришедшая в OpenAI в конце 2024 года после работы в Meta, открыто написала, что темы вроде слежки за гражданами без суда и автономных систем, способных применять силу без участия человека, требуют куда более глубокого обсуждения. Её пост вызвал волну обсуждений, и в ответ на вопросы она подчеркнула, что главное — проблемы управления и отсутствие определённых барьеров, которые должны быть сформулированы заранее.

OpenAI оперативно подтвердила её уход и заявила, что понимает сильную реакцию сотрудников и общества на эту тему. В официальном комментарии компания подчеркнула, что не поддерживает опасения, сформулированные Калиновски, и заверила, что сотрудничество с Пентагоном не предполагает разработки инструментов для внутреннего наблюдения или автономного оружия.

По словам компании, договор с Минобороны США должен установить безопасный и контролируемый формат использования ИИ в сфере нацбезопасности. При этом OpenAI особо выделила, что красные линии включают запрет внутренней слежки и полный отказ от автономных систем вооружений.

Уход Калиновски стал самым заметным последствием решения заключить соглашение с военным ведомством. Ситуацию подогревает и то, что конкурент OpenAI — компания Anthropic — недавно отказалась снимать защитные ограничения с ИИ, которые касались массового наблюдения и создания полностью автономных систем вооружений.

Даже гендиректор OpenAI Сэм Альтман, комментируя сделку, заявил, что намерен внести в неё поправки, чтобы прямо запретить любые попытки использовать технологии для слежки за гражданами США. Это заявление прозвучало после резкой волны критики внутри и за пределами компании — и, судя по всему, слишком поздно, чтобы удержать Калиновски в команде.

Её отставка вновь поднимает вопросы о том, может ли крупная компания, создающая ИИ, эффективно контролировать собственные технологии и устоять перед давлением государства, когда речь идёт о безопасности. И где проходит та самая тонкая грань между "помочь защитить страну" и "открыть дверь для тотального контроля".