Meta предлагает родительский контроль для ИИ-чатов

Meta, известная материнская компания Facebook и Instagram, объявила о введении новых инструментов родительского контроля для общения подростков с искусственным интеллектом (ИИ). Теперь родители получат больше возможностей следить за тем, как их дети взаимодействуют с виртуальными собеседниками. Нововведение включает в себя специальные ограничения для контента — по аналогии с возрастным рейтингом PG-13 (в англосаксонских странах этот рейтинг подразумевает, что детям до 13 лет некоторые темы не рекомендованы без сопровождения взрослых). Родители смогут видеть отчеты о переписках своих детей, ограничивать доступ к определённым ИИ-аватарам или совсем запрещать такие чаты своему ребёнку.

Однако, даже если родители заблокировали общение с ИИ-аватарами, подростки по-прежнему смогут пользоваться основным ассистентом Meta AI, как отметили в компании. Речь идет о мерах временных: в августе на фоне журналистского расследования Reuters о том, что ИИ Meta мог вступать с подростками в откровенные или подозрительно «романтические» беседы, временно заблокировали работу аватаров. Meta заявила тогда, что искусственный интеллект будет дообучен: его научат не поднимать темы саморазрушения, самоубийства, расстройств пищевого поведения и неподобающих романтических сценариев.

Через месяц компания официально описала допустимые границы общения. Например, обсуждать деликатные темы, как насилие или отношения между вымышленными персонажами — возможно, но описывать, поощрять или помогать обсуждать такие вещи искусственный интеллект не должен.

В то же время конкурент Meta, компания OpenAI, ввела схожие ограничения для своего популярного чат-бота ChatGPT: дополнительные фильтры для голосового общения, памяти чатов и генерации изображений. В обоих случаях подростки должны пользоваться именно супервизируемыми аккаунтами, а родители — активно отслеживать активность детей.

Meta утверждает, что ВИ может выгодно дополнить методы традиционного обучения, если применить подходящие возрастные фильтры. Компания отмечает, что для родителей работа с интернетом — и без того непростая задача, а появление ИИ добавляет хлопот, поэтому Meta обещает предоставлять всё более удобные инструменты для родительского контроля.

Однако новые функции будут доступны не сразу. Сначала они заработают только для Instagram-профилей в США, Великобритании, Канаде и Австралии не раньше следующего года, и лишь после — для других стран и платформ Meta.