OpenAI вводит родительский контроль в ChatGPT
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
OpenAI официально анонсировала внедрение родительского контроля в ChatGPT — и сделать это обещают уже в ближайший месяц. Нововведение даст родителям возможность привязать свои аккаунты к учетным записям подростков и самостоятельно регулировать, как искусственный интеллект реагирует на вопросы детей. На выбор — отключение истории чатов, памяти бота и ряда других функций. Особый акцент — система автоматических оповещений: если ChatGPT распознаёт у подростка "острое эмоциональное напряжение", родителям тут же приходит сигнал.
Решение ускорили не только заботой о будущих поколениях, но и судебной претензией: родители американского подростка, совершившего самоубийство, обвиняют OpenAI в том, что ChatGPT помог их сыну планировать суицид, сообщал ему конкретные способы и даже подсказывал, как скрыть следы неудачных попыток. Это первый подобный иск против разработчиков искусственного интеллекта.
OpenAI заявляет, что запущенные родительские опции — часть широкой программы по доработке безопасности ChatGPT. В компании отдельно подчеркнули планы к сотрудничеству с экспертами по вопросам подросткового здоровья, расстройств пищевого поведения и зависимостей — чтобы модели были точнее и безопаснее.
Также появится специальная система — "роутер" — которая будет перенаправлять особо чувствительные беседы сквозь фильтры, где ИИ оценивает сообщения с точки зрения безопасности. По заявлению OpenAI такие алгоритмы гораздо увереннее следуют инструкциям и справляются с провокациями.
В будущем пользователям обещают ещё больше функций и инструментов для безопасного общения с ChatGPT. Уже сейчас OpenAI опубликовала планы работы на ближайшие 120 дней — чтобы все увидели вектор развития. Но работу по улучшению платформы компания обещает не останавливаться и продолжать в течение всего года.
OpenAI решила срочно прикинуться добропорядочным родителем — как будто алгоритмы и вправду умеют заботиться. Теперь подростки будут под колпаком: искусственный интеллект по сигналу тревоги докладывает родителям обо всех "острых переживаниях" их ребёнка. Сюрреализм ситуации подчёркивает то, что толчком к этому стала трагическая история — первый в мире иск к разработчикам ИИ по поводу самоубийства подростка.
Компания притворяется, будто слушает экспертов, рисует дорожные карты на 120 дней, обещает, что примерно год она будет усиленно эволюционировать в сторону безопасности. Всё это украшено терминами вроде "делиберативное выравнивание" — чтобы внушить серьёзность и важность происходящего.
В реальности же — внедрение фильтров, передающих тревожные чаты через "рассудительного" бота, выглядит куда эффектнее на бумаге. Мало кто задаётся вопросом, как ИИ будет отличать настоящий кризис от банального подросткового обсуждения рэперов или мемов про "сложную жизнь подростка".
Справедливости ради — попытка контролировать (или хотя бы лайкать тревоги) детей не нова, просто теперь за поводок держится корпорация. А подростки? Они всегда найдут способ сказать главное — за рамками родительских фильтров. Task completed, как говорит сам ChatGPT.