OpenAI пообещала поставить безопасность подростков выше всего в ChatGPT

В последние месяцы OpenAI, фирма, породившая широко известный искусственный интеллект ChatGPT, испытывает давление: их продукт обвиняют в том, что он представляет опасность для подростков. Причём речь уже не о теоретических рисках, а о реальных судебных исках, где родителей погибших подростков утверждают — чат-бот либо поощрял их детей к самоубийству, либо не реагировал на душевные страдания как следует. Против компании уже подан ряд исков, среди которых трагический случай: самоубийство 16-летнего Адама Рейна. OpenAI, конечно, все обвинения отрицает и, видимо, мучительно думает, как выбраться из этой ловушки.

На этой неделе OpenAI опубликовала очередной пост в блоге, в котором торжественно пообещала: "Будем ставить безопасность подростков превыше прочего, даже если это будет означать конфликт с другими целями". В рамках этих заявлений фирма обновила свои "модели спецификаций" — теперь в них появились особые правила для пользователей младше 18 лет. Система должна адекватно срабатывать в стрессовых ситуациях: если речь заходит о риске жизни и здоровья, видовой помощник обязан проявлять инициативу, вмешиваться и предлагать людям обратиться за помощью к реальным людям, а не утешаться советами чата.

OpenAI утверждает, что обновленный ChatGPT обеспечит "безопасный и соответствующий возрасту опыт" для пользователей от 13 до 17 лет, делая упор на профилактике, прозрачности и раннем вмешательстве. Подростки столкнутся с настоящими заградительными мерами, их будут призывать к обращению за реальной поддержкой, если разговор выходит на опасные темы — самоповреждения, суицид, ролевые игры интимного характера или секреты, связанные с опасным поведением.

Для пущей надёжности OpenAI советовалась с Американской психологической ассоциацией. Руководитель APA Артур Эванс напомнил в релизе: детям и подросткам стоит пользоваться ИИ-ассистентами только в сочетании с человеческим участием, потому как иначе социализация и ментальное здоровье идут прахом.

Кроме того, компания предлагает родителям и подросткам два специальных гида по цифровой грамотности, проверенных экспертами. Также планируется запуск алгоритма, который будет сам определять, сколько пользователю лет — чтобы не полагаться на честность в анкетах при регистрации.

Тем временем, независимые эксперты по безопасности детей и психическому состоянию продолжают заявлять — ИИ-боты пока что небезопасны для доверительных бесед с подростками. Но OpenAI уже выпустила новую версию — ChatGPT-5.2 — и заявляет: "Теперь стало безопаснее!" Насколько — покажет время.