OpenAI внедряет возрастной контроль для ChatGPT

OpenAI, крупная компания в сфере искусственного интеллекта, начала поэтапное внедрение системы, которая будет определять возраст пользователей ChatGPT. Теперь сервис может самостоятельно оценивать, совершеннолетний ли перед ним пользователь — или всё-таки ещё ребёнок, которому некоторые взрослые разговоры видеть рановато.

Метод, как всегда, технологически изощрённый: система анализирует особенности поведения пользователя, данные аккаунта, когда и сколько времени человек находится в чате, как часто им пользуется, и даже саму заявленную дату рождения. Всё это — чтобы вычислить подозрительных малолеток на своей платформе. Если вдруг искусственный интеллект определил, что вы слишком молоды (или наоборот — чересчур опытны для столь юного возраста), придётся доказывать обратное: загружать своё селфи через специальную платформу проверки возраста Persona.

В индустрии искусственного интеллекта принято выпускать новые функции, а потом уже в спешке натягивать поверх них какие-то фильтры и защиты, когда становится ясно, что людям причинён вред. OpenAI тоже отличилась: компанию уже втянули в судебное разбирательство — после того как подросток воспользовался ChatGPT для составления плана самоубийства. Только потом в OpenAI активно начали думать о системе автоматических возрастных ограничений и создали даже целый "совет по психическому здоровью".

На этот раз компания задумалась о запуске "взрослого режима" — то есть функции, которая позволит создавать и просматривать нецензурный контент (NSFW, not safe for work). Аналогичную попытку недавно предприняли и в Roblox, другом сервисе, который слабо защищает детей. Но практика показывает: если юные гении захотят обойти ограничения, они это сделают. Так что, можно только гадать, насколько успешной окажется очередная технологическая попытка согнать детей из "взрослого" интернета.