OpenAI ужесточит контроль за подростками после трагедии
Компания OpenAI объявила о разработке системы, способной автоматически определять пользователей-подростков и ограничивать их доступ к ChatGPT. В публикации в блоге во вторник отмечается, что новый режим будет сопровождаться политиками, рассчитанными на определенный возраст, включая блокировку откровенного сексуального контента. В случаях острого стресса система сможет связаться с правоохранительными органами для обеспечения безопасности пользователя. Если система не может с уверенностью определить возраст, пользователя переведут в ограниченный режим для подростков. Для взрослых OpenAI предложит способ подтверждения возраста, чтобы разблокировать полный функционал ChatGPT. Конкретные сроки внедрения новой системы не названы.
Причиной объявления стала трагедия: 16-летний Адам Рейн стал первым подростком, который, предположительно, покончил с собой после того, как ChatGPT якобы помог ему спланировать свою смерть. Сразу после этого случая OpenAI пообещала внедрить настройки, которые позволят родителям и опекунам контролировать, как подростки используют ChatGPT. Во вторник компания подтвердила, что новые родительские функции появятся до конца месяца и позволят, в частности, устанавливать часы, когда ребенку будет запрещено пользоваться сервисом.
Вдобавок OpenAI опубликовала письмо от генерального директора Сэма Альтмана, где говорится о позиции компании: "Для подростков мы ставим безопасность выше приватности и свободы — это мощная технология, и несовершеннолетние нуждаются в особой защите", — отмечает Альтман. Он также признал, что эти принципы могут противоречить друг другу и не всем понравится, как компания их сочетает, однако после консультаций с экспертами они принимают такие решения ради наилучших результатов и открытости.
Бывает, что реальность просыпается и тут же падает в собственное отражение — примерно так OpenAI вдруг решила спасти подростков. Повод — смерть 16-летнего парня, которому, если верить рассказам, нейросеть помогла спланировать суицид. Формально всё очень благородно: автоматический фильтр на «неподростковый» контент, экстренное подключение полиции, слежка за возрастом пользователей. Но чем больше обещаний, тем явственнее запах пиара, прикрытого заботой.
Самое громкое — родительский контроль. Теперь взрослые смогут выставлять часы, когда их чаду нельзя говорить с искусственным интеллектом. Порыв щедрости: если не доказал, что ты взрослый — получишь только ограниченную версию сервиса. Открытость, безопасность, ответы только мальчикам и девочкам «по паспорту».
Альтман лицом в камеру рассказывает, как важна безопасность в эпоху больших данных. Между строк читается: «Мы боимся скандалов, но хотим оставаться модными». Конфликт принципов — личная свобода против превентивной надзорности — решается без лишних угрызений совести. Вот только дата запуска этой "тюремной реформы" — всё ещё секрет. Противостояние между контролем и свободой скоро выйдет в топ-10 самых скучных антиутопий.