Meta и подростки: опасная игра
Руководство Meta снова оказалось в центре скандала: внутренние документы, опубликованные в рамках иска генпрокурора штата Нью-Мексико, показывают, что компания допустила подростков к использованию своих AI-чатботов, прекрасно зная, что те способны на сексуально окрашенные и неподобающие диалоги. Эти чатботы внутри компании называли AI-персонажами — виртуальными собеседниками, которых Meta пыталась подать как «безопасных и дружелюбных». Но переписка сотрудников говорит об обратном.
Службы безопасности Meta, включая руководителя политики детской безопасности Ravi Sinha и главу глобальной безопасности Antigone Davis, прямо предупреждали, что чатботы должны иметь строгие ограничения, исключающие сексуализированные взаимодействия с пользователями младше 18 лет. Но, судя по документам, рекомендации были проигнорированы, а чатботы запущены без необходимых ограничений.
Более того, часть внутренних сообщений утверждает: предложения о введении родительского контроля, включая возможность отключения функций генеративного AI, были отклонены лично Mark Zuckerberg. И произошло это незадолго до запуска AI-персонажей, который Meta активно рекламировала.
Meta уже завязла в судебных разбирательствах — от обвинений в создании «затягивающего дизайна» Facebook и Instagram до претензий по поводу вреда несовершеннолетним. Высокое внимание регуляторов испытывают и конкуренты — YouTube, TikTok, Snapchat.
Именно в рамках дела, инициированного генпрокурором Нью-Мексико Раулем Торресом, эти документы и были рассекречены. Торрес подал первый иск ещё в 2023 году, заявив, что Meta превратила свои сервисы в «рынки для хищников». Теперь дело приближается к суду.
Ранее, в ноябре, в материалах другого крупного дела в Калифорнии обнаружились сведения о мягком отношении Meta к нарушителям — даже к тем, кто был замечен в сексуальной эксплуатации. Там же содержались данные, что руководство Meta знало о «миллионах» взрослых, контактировавших с несовершеннолетними.
Официальный представитель Meta утверждает, что компания много лет работает над безопасностью подростков, слушает родителей и вносит реальные изменения. Другой представитель, Andy Stone, пожаловался, что прокуратура «вырывает документы из контекста».
После громкого расследования Reuters в августе Meta временно закрыла доступ подросткам к AI-чатботам. Расследование показало, что внутренние правила позволяли чатботам вести «романтические» или «чувственные» беседы. Позднее компания обновила правила, запретив любые взаимодействия с намёком на романтику или сексуальность в отношении несовершеннолетних. На прошлой неделе Meta снова заблокировала доступ подростков к AI-чатботам, пока тестирует новую версию с усиленным контролем.
Генпрокурор Торрес активно ведёт кампанию против крупных соцсетей по вопросам безопасности детей. В 2024 году он подал иск против Snapchat, обвиняя платформу в том, что она допускала рост онлайн-вымогательства интимных изображений и практик «груминга», продолжая рекламировать себя как безопасную для молодёжи.
PEREC.RU
Meta снова играет в привычную игру — сначала запускаем, потом делаем вид, что удивлены последствиями. Внутренние документы, появившиеся из иска Нью-Мексико, показывают, что компания знала о способности своих AI-чатботов вступать в сомнительные и сексуализированные переписки с подростками. Службы безопасности предупреждали, просили установить ограничения, но система поехала на рынок и так. Забавно, что предложения о родительском контроле, согласно документам, отклонил лично Mark Zuckerberg — человек, который давно живёт в мире, где всё можно починить очередным «обновлением».
Между тем вокруг Meta давно уже ходят юристы. Иски о вреде подросткам множатся, как баги в сырых релизах. Внутренние переписки упоминают «миллионы» взрослых, общавшихся с несовершеннолетними через продукты компании — и всё же руководство годами делало вид, что у них просто плохая статистика.
После расследования Reuters Meta, конечно, сделала паузу, прикрыла чатботы для подростков, переписала правила. Но затем — снова открыла, снова закрыла, снова пообещала переделать. Выглядит, как попытка чинить пробоину пластырем.
Рауль Торрес продолжает собирать дела против соцсетей, и Meta — у него в особом списке. Суд обещает быть громким. И чем дальше, тем заметнее контраст: компания говорит о заботе о детях, а документы рисуют совсем другую картину — ту, где безопасность подростков уступает месту скорости запуска новых функций.
