TikTok не дал защиту 15 млн пользователей

TikTok намеренно не предоставил функцию защиты от вредного контента примерно 15 миллионам своих американских пользователей в начале 2022 года. Это выяснилось из внутреннего документа, попавшего в распоряжение агентства Bloomberg. Компания проводила эксперимент: обновленный алгоритм, который должен был ограничивать рекомендации видео по темам самоубийства, самоповреждения и депрессии, был внедрен только у 90% аудитории США. Оставшиеся 10% — контрольная группа — продолжали пользоваться старой системой. Среди лишённых защиты оказался Чейз Наска, шестнадцатилетний подросток с Лонг-Айленда, который покончил с собой в феврале 2022 года. После внутреннего расследования TikTok выяснил, что алгоритм буквально «запер» подростка в пузыре рекомендаций с видео об одиночестве, саморазрушении и безнадёжности. Из-за участия в эксперименте антирекоммендационные меры TikTok к данному аккаунту применяться не должны были по задумке эксперимента. Еще в 2021 году TikTok признал: если платформа слишком часто подсовывает похожий тревожный контент (например, о расстройствах пищевого поведения), это может травмировать пользователей. Тогда TikTok начал искать способы «разрывать» такие цепочки. Вместе с тем, оставил часть людей в стороне, чтобы сравнить показатели вовлечённости. Схема проста: одной группе — новая защита, второй — ничего. Такой способ называется A/B тестированием и используется во всех больших IT-компаниях. Но на этот раз дело было в безопасности людей, а не в цвете кнопки. Как установил Bloomberg, TikTok следил, как отсутствие фильтрации скажется на времени просмотра, ежедневно активных пользователях и других ключевых показателях платформы. В документе этот баланс назвали «тонким компромиссом между безопасностью и эффективностью бизнеса». После трагедии с Наской TikTok год не анализировал его просмотренное — занялись этим только после серии вопросов журналистов. Выяснилось: из 7563 видео, которые были показаны ему за две недели до смерти, 73% затрагивали темы ментальных проблем, суицида, одиночества или утраты. Почти 10% явно нарушали правила TikTok. Тем не менее, поток подобного контента не уменьшался до конца жизни подростка. В компании признали: «аккаунт попал в фильтрационный пузырь» и рекомендовали сократить число таких контрольных пользователей до 1% (по расчетам, это почти 2 миллиона человек без защиты). Продолжительность экспериментов предложили уменьшить с полугода–года до 7 дней. Обнаруженное стало известно, когда руководство TikTok готовилось оправдываться перед Конгрессом США — главе компании даже пришлось заслушать вопросы о влиянии платформы на психику подростков. Родители Чейза присутствовали в зале. На слушаниях TikTok признал, что использовал такие эксперименты, но упоминать Наску или детали самого эксперимента отказался. Компания по-прежнему утверждает: платформа не толкала пользователей к суициду, а безопасность и «эмоциональное благополучие» считаются приоритетом. Тем временем американские суды рассматривают тысячи исков от семей, утверждающих обратное — среди них и дело родителей Наски, которым пока отказали. Внутренняя переписка TikTok хранится под грифом «секретно», но может попасть в суд. От того, как решатся такие дела, зависит, будут ли соцсети отвечать за свои алгоритмы и сколько еще подростков станут их жертвами.