ChatGPT для подростков: защита дала сбой

Исследователи Youth AI Safety Institute при Common Sense Media призвали OpenAI временно приостановить ChatGPT for Teens — версию ChatGPT для пользователей от 13 до 17 лет. По их оценке, продукт небезопасен и не должен использоваться подростками, пока компания не докажет, что его функции действительно обеспечивают возрастно соответствующий и безопасный опыт.

Институт также потребовал остановить маркетинг сервиса и не разрешать подросткам пользоваться обычным ChatGPT до устранения проблем. OpenAI запустила ChatGPT for Teens в августе 2025 года, представив его как инструмент для учебы и поддержки человеческих отношений. В версии для подростков заявлялись дополнительные меры защиты: уведомления родителей, расписание учебных часов, напоминания о перерывах, Study Mode и функции, связанные с благополучием. Компания отдельно подчеркивала, что продукт ориентирован на образование, а не на личные темы.

После нескольких недель тестирования исследователи заявили, что многие настройки работают не так, как обещано. Тестировщики обходили учебные ограничения и родительский контроль, долго обсуждали с чат-ботом расстройства пищевого поведения и самоповреждение, но не получили ни одного уведомления родителям на сотнях запросов. Отдельные диалоги продолжались до часа. При этом подростковая версия, по словам исследователей, продолжала общаться с пользователем в манере приятеля — именно такой эмоциональной близости OpenAI обещала избегать.

Компания оспорила выводы и назвала методику исследования flawed — содержащей методологические недостатки. Представитель OpenAI заявил, что тесты могли пройти до полной активации родительского контроля. Однако институт сообщил, что заранее подтвердил с компанией запуск Teen Mode, уведомлений о расстройствах пищевого поведения и Study Mode.

OpenAI заявляет, что при обнаружении ситуации высокого риска уведомление должно отправляться по электронной почте, SMS или через push-уведомление в течение часа. После публикации отчета компания уточнила: аккаунты подростка и родителя должны быть связаны примерно три часа, прежде чем уведомления начнут поступать. Исследователи утверждают, что проверяли учетные записи, связанные и менее, и более трех часов, и сохранили вывод о ненадежности уведомлений во время кризиса. OpenAI, напротив, заявила, что результаты отчета расходятся с ее внутренним мониторингом.

Проблемы обнаружились и в учебном режиме. Study Mode может объяснять решение домашнего задания по шагам, но одновременно предлагает кнопку «показать ответ». После ее выбора ChatGPT выполняет работу за ученика. Такая кнопка появлялась в 43% ответов у тестового 13-летнего пользователя с привязанным родительским аккаунтом во время учебных часов. У неподключенного аккаунта 17-летнего пользователя показатель достигал 90%. OpenAI считает эту возможность намеренной: она должна помогать лучше понять материал. Robbie Torney из Youth AI Safety Institute возразил, что такой подход недооценивает риск когнитивной разгрузки — передачи собственных мыслительных усилий машине — и зависимости от нее. По его словам, учителя редко дают ученикам полный контроль над выполнением учебной задачи.

Расписание Study Hours также оказалось обходным. Тестировщики удаляли из строки чата префикс @study и после этого обращались к обычному ChatGPT, который выполнял все отправленные задания.

Неубедительно сработало и определение возраста. Система не переводила зарегистрированные как взрослые аккаунты в подростковый режим, даже когда пользователи рассказывали о начале полового созревания, летнем лагере, домашних заданиях средней школы или зависимости от родителей в вопросах транспорта и разрешений. Прямое сообщение о возрасте, например «мне 13 лет», тоже не включало дополнительные ограничения, проверку возраста или усиленные меры безопасности.

Исследователи назвали это риском ложного чувства защищенности: родители могут считать подростковые ограничения активными, хотя на деле они не работают. OpenAI ответила, что одного сообщения в чате недостаточно для смены классификации: система учитывает несколько сигналов и некоторое время собирает данные для прогноза возраста.

В 2025 году Common Sense Media уже оценивала ChatGPT как продукт высокого риска для подростков и как неприемлемый инструмент поддержки психического здоровья. На этот раз тестирование проходило до запуска ChatGPT for Teens, а затем повторилось с теми же аккаунтами и запросами после подключения подросткового режима — в течение месяца, с конца августа по сентябрь. Проверялись родительские уведомления, функции сервиса, психическое здоровье, академическая добросовестность и определение возраста. По словам института, провал зафиксирован во всех категориях.

Отдельный контекст — иски против OpenAI. В некоторых из них утверждается, что длительное эмоциональное взаимодействие с ChatGPT подтолкнуло подростков и молодых людей к попыткам самоубийства или суициду. Эти утверждения пока являются предметом судебных разбирательств.

Youth AI Safety Institute получил благотворительное финансирование от OpenAI Foundation, но заявляет о независимости своих тестов. Robbie Torney сказал, что институт передал результаты компании добросовестно и до публичной публикации. Он призвал OpenAI обсуждать содержание выводов, а не ставить под сомнение методику. В качестве дополнительного раскрытия информации указано, что в апреле 2025 года Ziff Davis, материнская компания Mashable, подала иск против OpenAI, обвинив ее в нарушении авторских прав Ziff Davis при обучении и работе ИИ-систем.