Character.AI запускает безопасные истории для подростков

Character.AI представила новый режим Stories — визуальный формат "выбери свою историю", где пользователи могут создавать короткие интерактивные рассказы с любимыми персонажами. На первый взгляд, это красочная, ориентированная на изображения игра, но на деле — первая серьёзная попытка сервиса перестроить опыт для подростков после блокировки свободных чатов для несовершеннолетних. Причиной стали споры, судебные иски и масштабные опасения по безопасности.

Теперь Stories — это структурированная визуальная игра с разветвлёнными сюжетами. Компания обещает, что подростки смогут безопасно и творчески взаимодействовать с платформой, не сталкиваясь с рисками, которые были в открытых чатах. Пользователи выбирают двух-трёх героев, жанр, описывают или генерируют вводную — дальше их ждёт игра с альтернативными вариантами развития, рассчитанная на повторное прохождение и обмен с друзьями. Особый акцент — на поддержку подростков, хотя функция доступна для всех.

Изменения не случайны: месяц назад Character.AI официально запретил свободные чаты пользователям младше 18. Генеральный директор Карандиип Ананд назвал это "смелым решением", объяснив всё заботой о молодёжи, но отрицая прямую связь с очередными скандалами. Однако, отказ стал ответом на череду исков, включая дела о гибели и истории родителей, заявивших, что их дети могли пострадать из-за откровенного общения с ботами.

Ранее журналисты отмечали: некоторые подростки сталкивались с ботами, которые разыгрывали сексуализированные сценарии, симулировали насилие или призывали скрывать переписку от родителей. Всё это эксперты сравнивали с поведением "идеального хищника". Правозащитники указывали: если бы подобные сообщения писал взрослый человек, речь шла бы о прямом злоупотреблении.

Психологи предупреждают: дети не всегда замечают манипуляцию, а её последствия могут быть столь же разрушительными, как и травмы в реальной жизни. На этом фоне Stories — явная попытка Character.AI вернуть подростков, ограничить доступ к свободному общению (теперь только два часа в день, с окончательным закрытием с 25 ноября) и предложить "безопасную песочницу" вместо спонтанных диалогов.

Компания заверяет: Stories не будет использовать материалы из старых, потенциально опасных чатов. В ближайшее время также обещают запуск других безопасных AI-развлечений, например, игр. Хотя некоторые эксперты приветствуют перемены, они считают, что "это и позитивный сдвиг, и признание того, что платформа изначально была небезопасна для подростков".