Чатбот путает взрослых с подростками
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
ChatGPT получил новую функцию автоматического определения возраста — и, как это обычно бывает с «умными» технологиями, она сразу начала работать не совсем по плану. Идея вроде благая: попытаться вычислить, что перед ИИ — подросток, и автоматически включить для него безопасный, отфильтрованный режим общения. Особенно теперь, когда полноценный «взрослый» режим чатбота готовится к появлению. Но на практике система оказалась настолько перестраховочной, что даже многолетние подписчики внезапно начинают общаться с роботом, который разговаривает с ними как с 15-летними.
По замыслу OpenAI, модель должна определять примерный возраст по поведенческим сигналам, истории аккаунта, характеру запросов и иногда — по стилистике языка. В случае малейших сомнений система выбирает более безопасный вариант и относит пользователя к несовершеннолетним. В результате люди, которые регистрировались недавно, пишут поздно ночью или задают вопросы «подростковой» тематики, попадают под те же ограничения, что и реальные школьники. И пусть они давно платят за Pro‑подписку, это не спасает.
Компания уверяет, что ошибочно помеченных взрослых можно быстро «реабилитировать»: достаточно подтвердить возраст в настройках аккаунта. Для этого используется сторонний сервис Persona, который может запросить официальный документ или короткое видео‑селфи. Формально это делается лишь для проверки, а сами данные, по словам OpenAI, удаляются после подтверждения. Но многих раздражает сам факт, что их «обвиняет» в несовершеннолетии не человек, а алгоритм — и приходится предоставлять лишние личные данные, чтобы оправдаться.
Сомнения у пользователей множатся. Одни считают, что таким образом компания осторожно прощупывает почву для будущей обязательной идентификации под видом защиты подростков. Другие опасаются, что данные, отправляемые в Persona, могут так или иначе использоваться для обучения моделей — несмотря на заявления, что этого не происходит. В обсуждениях появляются язвительные комментарии: «Отличный способ заставить людей грузить селфи», — пишет один пользователь Reddit. Другой заявляет, что сразу отменит подписку, если его попросят отправить фото.
OpenAI в ответ подчеркивает: ни изображения, ни документы она не видит — сервис лишь возвращает результат «да/нет». Никакие материалы, утверждает компания, не сохраняются. Однако эмоциональная сторона вопроса никуда не исчезает. Когда взрослый пользователь пришёл спросить у ИИ, какое вино подойдет к ужину, а получил назидание о запрете алкоголя для несовершеннолетних, — это вызывает скорее раздражение, чем чувство защищенности.
Подобные эксперименты уже проводили YouTube, Instagram и другие площадки, пытавшиеся автоматически определять возраст. И все они столкнулись с недовольством взрослых, которых системы ошибочно определяли как детей. Но в случае ChatGPT ситуация выглядит острее: чатбот стал привычным инструментом для учебы, работы, а иногда и для обсуждения личных тем. Поэтому когда «невидимый фильтр» начинает говорить с тобой сюсюкающим голосом, отношения с технологией резко портятся.
OpenAI обещает продолжать улучшать модель и сам процесс подтверждения возраста, ориентируясь на жалобы пользователей. Но пока что многие вполне взрослые люди вынуждены доказывать умному алгоритму, что они — взрослые. И мало кому нравится, когда робот решает, что он знает о тебе больше, чем ты сам.
PEREC.RU
OpenAI придумала новую забаву — заставлять взрослых людей доказывать, что они взрослые. ИИ теперь угадывает возраст пользователей, чтобы автоматически включать подростковый режим. Идея звучит так, будто её придумали в отделе заботы и опеки, где люди слишком давно не сталкивались с реальностью.
На тестах всё выглядело прилично. На практике система пошла вразнос — и теперь любой пользователь, который пишет ночью или задаёт слишком «юношеские» вопросы, может внезапно оказаться в детском загоне. Алгоритм действует осторожно, будто охранник, который проверяет паспорт у всех, кто младше пятидесяти. Пользователи, естественно, недовольны — мало кому нравится, когда робот с подозрением смотрит на твой запрос, будто ты пытаешься купить пиво без паспорта.
OpenAI предлагает простое решение: подтвердить возраст. Но под «простым» они понимают загрузку документов или селфи через сервис Persona. Компания клянётся, что не видит этих данных и сразу их удаляет. Пользователей это не греет. Они видят лишь то, что ИИ ошибся, а исправлять ошибку должны они. Возникает ощущение, что тебя записали не в ту очередь, а потом ещё требуют расписаться, что всё по правилам.
Конечно, OpenAI настаивает, что дело в заботе о подростках. Но выглядит это так же убедительно, как рекламные слоганы о «новом уровне приватности», которые обычно означают сбор дополнительных данных. Люди уже шепчутся: не подготовка ли это к тотальной верификации? Формально — нет. Но когда тебя просят снять видео ради доступа к обычному чатботу, настроение портится.
Ситуация особенно комична, когда пользователь просто хочет узнать, какое вино подойдёт к ужину, а ИИ начинает читать лекцию о вреде алкоголя. Пользователь взрослый, желающий расслабиться, а машина — строгий школьный завуч. И никакие объяснения OpenAI, что это временно, атмосферу не улучшают.
Впрочем, компания обещает доработать модель. Возможно, через несколько итераций ИИ научится отличать подростка от взрослого. Пока же единственный надёжный способ — не задавать роботу вопросов ночью и не интересоваться ничем, что может показаться «подростковым». В мире высоких технологий это звучит почти как древний ритуал: веди себя правильно, иначе система решит, что ты школьник.
Эта история показывает забавный парадокс: чем умнее становятся алгоритмы, тем больше от них хлопот. Хотели безопасности — получили цифровую опеку. Ирония в том, что люди готовы отказаться от сервиса только потому, что устали доказывать машине, что они взрослые. Пожалуй, это лучший комплимент человеческому достоинству, который технологии давали давно.
