Meta под присмотром

Meta представила новую функцию родительского контроля, позволяющую взрослым видеть, о чем их подростки беседуют с фирменным AI Assistant. Речь не идет о полном доступе к сообщениям: система лишь показывает тематику последних семи дней общения — от «школы» и «развлечений» до «здоровья» и «психического состояния». Функция встроена в раздел Insights в инструментах надзора в Instagram, Facebook и Messenger.

Внутри каждой категории родитель получает лишь ограниченное пояснение. Например, вкладка «здоровье и благополучие» может включать обсуждения физического состояния, спорта или психического здоровья. Никакой детализации впрямую — только общие направления.

Это не просто обновление интерфейса, а очередная попытка Meta показать, что она контролирует свой искусственный интеллект после череды неприятных судебных разбирательств. Компания проиграла два крупных процесса, связанных с безопасностью детей и предполагаемой «затягивающей» архитектурой своих сервисов. Meta намерена оспорить решения, но осадок, как говорится, остался.

Особенно показательные материалы всплыли в рамках иска штата Нью-Мексико: внутренние документы подтвердили, что руководство знало — их «характеры», то есть персонализированные AI-собеседники, могут вести себя неподобающим образом, включая сексуализированное общение. И все же запуск состоялся практически без дополнительных ограничений.

После летних скандалов прошлого года Meta ограничила доступ подростков к AI-персонажам. Причина — многочисленные сообщения о том, что ИИ вступал с несовершеннолетними в разговоры о самоповреждении, суициде или «романтических» темах. В октябре компания позволила родителям отключать такие диалоги и блокировать отдельных персонажей. В январе Meta снова ужесточила правила: доступ подростков к персонажам остановлен, хотя AI Assistant оставался активен.

Сейчас Meta официально подтверждает: персонажи «поставлены на паузу» для всех подростков по всему миру, и это останется так, пока компания настраивает новые механизмы контроля.

Кроме новой функции надзора, Meta создала совместно с Cyberbullying Research Center список вопросов, с которых родителям предлагают начинать разговор о пользовании чат-ботами. А также объявила о формировании AI Wellbeing Expert Council — экспертного совета по благополучию подростков в эпоху ИИ. В него вошли специалисты, связанные с Национальным советом по предотвращению суицида США, Университетом Мичигана, Нортheastern University и рядом других организаций.

Meta пытается показать миру, что «учится на ошибках». Но пока что выглядит это скорее как спешное латание дыр в корабле, который сам же компания и нагрузила экспериментальными AI-модулями.