ChatGPT запускает родительский контроль: спасет ли искусственный интеллект подростков?

OpenAI реализует новые меры безопасности для ChatGPT, чтобы защитить подростков и людей, находящихся в эмоциональном кризисе. Компания анонсировала внедрение системы родительского контроля, благодаря которой родители смогут привязывать свои учетные записи к аккаунтам детей с 13 лет. Теперь мамы и папы могут ограничивать функционал ChatGPT, а если искусственный интеллект заметит тревожные сообщения вроде признаков депрессии, система тут же оповестит родителей.

Этот шаг говорит о том, что в OpenAI прекрасно осознают: подростки уже активно используют ChatGPT и частенько делятся с ним тем, о чем не скажут ни родителям, ни друзьям. Несмотря на то, что официально это не подтверждается, складывается впечатление, что решение связано с недавними скандалами, когда якобы из-за общения с чат-ботом люди кончали с собой.

Контроль начнёт работать в течение ближайшего месяца. Родители смогут решать, сохранять ли историю переписок или использовать память нейросети. По умолчанию ответы ChatGPT будут фильтроваться по возрасту пользователя. Если вдруг появится тревожный диалог, на телефон родителей придёт сигнал. Повсеместного слежения нет: если нет тревоги — родители вообще не узнают, о чем говорили дети.

В OpenAI заявили, что не прекращают работу над тем, чтобы ChatGPT становился всё полезнее. «Мы видим, что люди обращаются к ИИ в самые тяжёлые моменты», — поясняет компания. Поэтому они постоянно совершенствуют то, как искусственный интеллект распознает признаки психологических или эмоциональных проблем, консультируясь с экспертами.

Для взрослых и подростков OpenAI запускает специальную версию модели для тех диалогов, где обсуждаются вопросы ментального здоровья или мысли о суициде. Эта «делиберативно выровненная» версия будет осторожнее отвечать, отказываться от провокаций пользователей и строго соблюдать инструкции по безопасности.

Чтобы сделать новый уровень безопасности реальностью, OpenAI создали Экспертный совет по благополучию и ИИ, а также Глобальную медицинскую сеть более чем из 250 специалистов в психиатрии, наркологии и подростковой медицине. Эти профессионалы консультируют компанию по методам распознавания кризисов и корректным реакциям ИИ.

Если раньше родители бодались со временем у экрана и вредными видеороликами, то теперь им приходится тревожиться ещё и о том, с кем «разговаривает» ребёнок. Ведь этот «кто-то» — не живой человек, а алгоритм, который имитирует заботу, но по-настоящему не переживает.

Раньше безопасность в ИИ-направлении была скорее реакцией на уже случившееся, но новый функционал OpenAI — попытка работать на опережение. Если хотя бы один подросток не доведёт свой разговор с ботом до трагедии благодаря сигналу для родителей, это уже прогресс, пусть и спорный.