Meta лишает тинейджеров доступа к ИИ-чатботам: страхи, скандалы и суровые меры

Meta (компания, владеющая Facebook, Instagram и другими сервисами) объявила, что временно закрывает подросткам доступ к своим персонажам-чатботам с искусственным интеллектом в нынешнем виде. На днях представители Meta сообщили, что "временно приостанавливают глобальный доступ тинейджеров к существующим ИИ-персонажам". Это решение последовало на фоне растущей критики после сообщений о том, что некоторые чатботы компании вели сексуализированные и иные тревожные диалоги с несовершеннолетними. В распоряжении Reuters оказались внутренние документы, согласно которым ботам Meta позволялось вести "чувственные" разговоры с подростками — впоследствии в компании настаивали, что подобные формулировки были ошибкой и противоречат корпоративной политике.

В августе Meta уже рассказывала, что дообучает своих чатботов, чтобы вводить дополнительные ограничения — например, запретить обсуждать с подростками темы самоповреждений, расстройств пищевого поведения или суицида. Теперь компания заявляет, что полностью блокирует доступ тинейджеров к персонажам-ботам до тех пор, пока не будут внедрены новые меры безопасности, в том числе родительский контроль. Представители Meta добавили, что ограничения заработают "в ближайшие недели" для всех аккаунтов подростков — а также для взрослых, которых система подозревает в том, что они обманывают насчет возраста (для этого Meta применяет собственные алгоритмы распознавания по возрасту).

При этом к официальному Meta AI-чатботу подростки сохранят допуск: его сочли "достаточно защищенным" от опасного контента. Искусственные собеседники от Meta неоднократно становились поводом для расследований со стороны властей США. Федеральная торговая комиссия (FTC), а также генпрокурор Техаса уже начали собственные проверки. В Нью-Мексико тема чатботов прозвучала даже в ходе иска о безопасности подростков: ожидается, что слушания начнутся уже в следующем месяце, а Meta тем временем пытается не допустить в деле показаний о своих ИИ-ботах. Meta подчеркнула, что родительский контроль для чатботов пока не внедрён — это ещё только в планах.