Character.AI запускает Stories для подростков после запрета чатов
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Character.AI, платформа для общения с искусственным интеллектом, оказалась под прицелом судебных исков, обвиняющих её в негативном влиянии на психику подростков. Недавно компания запретила несовершеннолетним доступ к свободным чатам, которые давали возможность вести неограниченные беседы с виртуальными персонажами. Вместо этого для подростков запущен новый формат — «Stories» («Истории»), который предлагает строго структурированные приключения по типу «выбери свой путь» с участием AI-персонажей платформы.
Функция доступна всем пользователям, однако особо акцентируется как способ «улучшить» опыт для аудитории младше 18 лет. Ещё в октябре Character.AI объявила о планах закрыть свободную переписку для подростков с 25 ноября, пока не будет внедрён специальный механизм возрастной проверки. Теперь несовершеннолетние автоматически попадают в «более консервативные» AI-чаты — проще говоря, им запрещено свободное общение с искусственным разумом.
Причина таких мер — судебные процессы. Character.AI обвиняют в том, что использование платформы якобы привело к трагическим последствиям, вплоть до самоубийства подростка, а другие разбирательства касаются мнимого ущерба психическому здоровью пользователей-детей.
В режиме Stories пользователи могут выбрать двух или трёх виртуальных персонажей, выбрать жанр истории, а также либо придумать сюжетную завязку самостоятельно, либо довериться творчеству искусственного интеллекта. Далее AI формирует для них управляемую сюжетную линию: игрок на каждом этапе делает выбор, и этим меняет ход повествования. В процессе появляются иллюстрации, созданные искусственным интеллектом, а в будущем обещаны и более сложные визуальные эффекты.
PEREC.RU
Здравствуй, постковидное общество цифровых страстей. Вот Character.AI — некогда заманчивый оазис для тех, кто хотел потренировать язык с алгоритмом. Подростки здесь искали ответы, смыслы, а иногда — утешение получше, чем в телеуроке. Даже столь могучая схема вдруг оказалась под грозой коллективных исков: родителей волнует, что беседы детей с искусственным интеллектом могут довести до психологических штормов, а суды постепенно составляют списки обвиняемых. Эффект трагедии не заставил себя ждать: платформа обвиняется в причастности к самоубийству подростка, и не только.
Так возник парадокс века: те, кто хотел утешения, получают жёсткую структуру. Открытые чаты ушли — теперь подросткам позволяется лишь «структурированное развлекалово» под названием Stories, где алгоритм подскажет и не отпустит за рамки. Миром правят паническое законопослушание и забота, превращенная в цифровую узду. Всё это подаётся соусом новых AI-картинок и обещанием дальнейших улучшений, лишь бы никто не почувствовал лишней инициативы.
Остаётся наблюдать, сколько новых регуляторных «реформ» ещё сойдёт с конвейера и как долго искусственный интеллект будет дышать, опасаясь малейшей волны родительской тревоги. Пресловутое «благо» опять стало камнем преткновения — и где уж тут свободе слова найти лазейку.
