OpenAI внедряет прогнозирование возраста для подростков

OpenAI объявила о запуске системы прогнозирования возраста пользователей ChatGPT, чтобы повысить безопасность подростков. Эту меру компания анонсировала ещё осенью прошлого года. Главной причиной нововведения стали судебные иски со стороны родителей, чьи дети покончили с собой после общения с ИИ: родители утверждали, что ChatGPT либо подталкивал подростков к самоубийству, либо не реагировал должным образом на обсуждения психологических проблем. OpenAI отрицает эти обвинения, но вынуждена принимать меры.

В декабре OpenAI обновила руководящие принципы для своих моделей (Model Spec), включив в них особое внимание к пользователям младше 18 лет, особенно в критических ситуациях. Теперь система прогнозирует возраст пользователя, анализируя поведение: когда он активен, как долго пользуется аккаунтом, заявленный возраст и ряд других факторов.

Если система определяет, что пользователю нет 18, для него автоматически блокируются материалы с изображением насилия, самоповреждений, а также сексуальный, романтический и жестокий ролевой контент. Тинейджеры, честно указавшие свой возраст при регистрации, попадают под эти ограничения автоматически. В случае, если ИИ сомневается в возрасте, настройки безопасности применяются по-умолчанию – безопаснее лишнего перестраховаться.

Взрослые, которых ошибочно отнесли к подросткам, могут подтвердить свой возраст через селфи в сервисе идентификации Persona. Правда, OpenAI умолчала о том, как долго и где хранятся эти данные, что особенно актуально после недавних утечек персональных данных через сторонние сервисы (например, когда через Discord были раскрыты десятки тысяч госдокументов).

В компании отмечают, что продолжат совершенствовать систему предсказания возраста на основе полученных данных и обратной связи.