OpenAI откладывает «взрослый режим» из-за внутренних страхов

OpenAI ещё недавно уверенно рассказывала миру, что готовит «Adult Mode» — специальный режим, позволяющий пользователям ChatGPT вести эротические беседы и получать откровенный контент. Но спустя две недели компания внезапно нажала на тормоза. Формально — из‑за смены приоритетов, усиленной юридическими проблемами, работой над новой версией GPT 5.4 и попытками наладить отношения с государственными структурами. Однако, как выяснилось, это только верхушка айсберга.

По данным источников, с которыми общался Wall Street Journal, в компании давно кипит нешуточный спор на тему того, стоит ли вообще выпускать такой режим. В январе консультативный совет по вопросам психологического благополучия внутри OpenAI провёл встречу — и единогласно заявил: запускать Adult Mode нельзя. Специалисты по психологии и когнитивистике предупреждали руководство, что откровенные диалоги могут сформировать у пользователей болезненную эмоциональную зависимость. И это при том, что такая проблема существует уже сейчас — без всякого «взрослого режима».

Один из экспертов даже выразился куда более жёстко, назвав потенциальную версию чатбота «сексуальным самоубийственным коучем» — настолько опасным может оказаться сочетание интимных разговоров и эмоционально нестабильных пользователей.

Ситуацию усугубили и технические проблемы: система возрастного контроля, в том числе технология прогнозирования возраста, работала с ощутимой ошибкой — примерно 12 процентов неправильно определённых несовершеннолетних. А это означает, что потенциально миллионы детей могли бы получить доступ к контенту, который категорически не предназначен для их психического развития.

Похожий скандал некоторое время назад уже пережила компания Meta — её внутренние документы показали слабые меры защиты подростков в чатботах. Позже Meta всё же пересмотрела правила, хотя по‑прежнему допускает «романтические ролевые игры» с виртуальными собеседниками.

Несмотря на шквал критики, OpenAI продолжает уверять, что Adult Mode всё‑таки выйдет. Внутренние команды безопасности сейчас пытаются придумать, как позволить пользователям создавать откровенные диалоги, но при этом жёстко блокировать темы вроде насилия, отсутствия согласия и всего, что относится к сексуальному контенту с участием несовершеннолетних. По словам представителя компании, Adult Mode должен будет давать возможность генерировать «смут‑уровень» контента, но не прямую порнографию.

Что касается возрастного контроля, в OpenAI заявили, что их показатель точности соответствует среднему уровню в индустрии и что абсолютно надёжной такая система никогда не будет.

Отдельно упомянуто, что в 2025 году компания Ziff Davis, владелец издания Mashable, подала в суд на OpenAI, обвинив её в незаконном использовании авторских прав при обучении и работе нейросетей. Это тоже накладывает дополнительный контекст на происходящее — юридические риски увеличиваются, а значит каждая ошибка становится дороже.