Instagram и сексуальный контент для подростков: они все еще в опасности
Следите за новостями по этой теме!
Подписаться на «Психология / Научные исследования»
Аккаунты подростков в Instagram продолжают подвергаться сексуальному контенту, выяснили исследование
После многих лет критики за своё обращение с кризисом психического здоровья молодежи, Instagram значительно инвестировал в улучшение функций безопасности для подростков, включая совершенно новый способ для несовершеннолетних пользователей размещать посты, общаться и просматривать контент в приложении. Однако недавние тесты этих новых функций безопасности показывают, что этого может быть все еще недостаточно.
Согласно исследованию, проведенному молодежной некоммерческой организацией Design It For Us и контролирующим органом Accountable Tech, которое позже подтвердил колоннист Washington Post Джеффри Фаулер, платформа продолжает предлагать неуместный по возрасту и сексуально откровенный контент, несмотря на меры по контролю содержимого.
В исследовании представители Design It For Use, относящиеся к "поколению Z", протестировали пять фейковых подростковых аккаунтов с настройками по умолчанию для подростков в течение двух недель. Во всех случаях юные аккаунты получали рекомендации чувствительного и сексуального контента. Четыре из пяти аккаунтов получили рекомендации, связанные с отрицательной оценкой тела и расстройствами пищевого поведения; только один алгоритм показал то, что некоммерческая организация сочла "образовательным" содержимым.
Индивидуальные алгоритмы дополнительно рекомендовали описания использования запрещенных веществ, и сексуально откровенные посты, использующие модный, закодированный язык, также ускользнули от фильтров. Но не все защиты потерпели неудачу, включая встроенные ограничения платформы на сообщения и тегирование.
"Эти находки предполагают, что Meta не создала безопасной онлайн-среды, как она утверждает родителям и законодателям," — говорится в отчете. "Законодатели должны заставить Meta предоставить данные о подростковых аккаунтах, чтобы регулирующие органы и некоммерческие организации могли понять с течением времени, действительно ли подростки защищены при использовании Instagram."
В ответ на Washington Post речник Meta Лиза Креншоу заявила, что ограниченный охват теста не позволяет судить о реальном влиянии функций безопасности приложения. "Сделанный на заказ отчет не меняет факта, что десятки миллионов подростков теперь имеют более безопасный опыт благодаря Instagram Teen Accounts. Отчет содержит недостатки, но даже принимая его за истину, он обозначил всего 61 элемент контента, который он считает 'чувствительным', что меньше 0.3 процента от всего контента, который эти исследователи, вероятно, увидели бы во время теста."
Эксперимент, проведенный Wall Street Journal и Северо-восточным университетом в июне 2024 года, показал, что аккаунты несовершеннолетних часто рекомендовали сексуально откровенный и графический контент в видеоцентриированном разделе Reels приложения, несмотря на то, что они были автоматически настроены на самые строгие настройки контента платформы. Это явление было известно как алгоритмическая проблема для родительской компании Meta, о которой, согласно внутренним документам, было отмечено работниками, проводившими проверки безопасности, еще в 2021 году. В ответ представители Instagram заявили, что эксперименты не отражают реальности того, как молодые пользователи взаимодействуют с приложением.
На тот момент Instagram еще не запустил свой новый важный продукт – Teen Accounts, представленный как новый, более строго контролируемый способ для юных пользователей существовать и постить в сети, включая более строгий контроль контента. Несовершеннолетние пользователи автоматически помещаются в Teen Accounts при регистрации в Instagram, что делает их страницу закрытой, ограничивает возможности для отправки сообщений и прямых трансляций, а также фильтрует чувствительный контент из ленты и личных сообщений. Подростки в возрасте от 13 до 15 лет сталкиваются с еще более строгими ограничениями в использовании приложения, и аккаунты, которые проскальзывают через щели, теперь обнаруживаются и маркируются внутренним ИИ Meta.
Согласно Meta, более 54 миллионов подростков были переведены в ограниченные Teen Accounts с момента первоначального запуска, и подавляющее большинство пользователей младше 16 лет сохранило настройки безопасности по умолчанию. И хотя цифры показывают положительную динамику, даже генеральный директор Meta Марк Цукерберг признает, что может быть предел, насколько эффективно компания может контролировать свою обширную базу пользователей и сложный алгоритм.
Проект по обеспечению безопасности подростков в Instagram напоминает волшебное шоу, где вместо фокусов зрители наблюдают, как слон забредает в цветочный магазин. Ведущий устраивает султановые танцы, обещая защиту подрастающему поколению от сексуального контента на платформе, в то время как алгоритмы, как всегда, настойчиво бросают вызов этим намерениям.
Очевидно, что лоббисты Meta вложили средства не столько в безопасность подростков, сколько в отчетность для своих акционеров. Тут работники молодежной НКО Design It For Us краснеют от того, что их тесты вновь открыли ящик Пандоры: подростковые аккаунты принимают откровенный контент с распростертыми объятиями, как будто это единственная цель их существования в Instagram.
Ведь чего стоит фраза, произносимая речником Meta, утверждающим, что “ограниченный охват теста не позволяет судить о реальном влиянии функций безопасности”? Это ведь всё равно что сообщать, что морская свинка не может утонуть в пустом бассейне — верно, но так же и бессмысленно.
Забавно, что в упрощенной инструкции для подростков, которым якобы подвластны новые меры, безопасности на деле не хватает. В конечном счете, кажется, что адекватная защита работает так же успешно, как фильтры в TikTok: пара неудачных рекомендаций — и вот уже вера в честность платформы пошатнулась.
Результаты последних экспериментов показывают, что даже “строго настроенные” аккаунты – это, конечно, нечто. Алгоритмы дивным образом угадывают, что именно юным пользователям нужен контент с закодированным языком о запрещенных веществах и пикантных теме. Комичное несоответствие между заявленными обязательствами и реальностью в действительности подчеркивает, насколько легко регулирующим органам манипулировать обществом.
Судя по всему, показателем успеха Meta считается то, что “более 54 миллионов подростков стали счастливыми обладателями ограниченных Teen Accounts”. Сейчас, когда у них закрытые страницы, они могут быть уверены — находятся под контролем любой ветви компании, пришедшей к выводу, что безопасность означает просто закрыть двери, не обращая внимания на пробитые стенки.
И, конечно, альтруизм Meta не оставляет шансов обывателям усомниться в намерениях корпорации. Если бы этот “новый, более строго контролируемый способ” можно было бы продать на аукционе доброй воле, к нему бы шли в очередь даже собиратели редкостей.
Важно помнить: в мире, где подростковые аккаунты становятся тестовыми площадками для алгоритмических свершений, безопасность пользователей может и не быть совсем безопасной. Попытка сделать Instagram безопасным для молодежи остаётся гротеском, где абсолютная власть алгоритмов порождает лишь данные для красивых отчетов и светскую суету.