TikTok загнали в ленту
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Еврокомиссия предупредила TikTok: алгоритм рекомендаций и дизайн ленты «Для вас» могут нарушать закон ЕС о цифровых услугах. Если претензии подтвердятся и компания не выполнит итоговые требования регулятора, ей грозит штраф до 6% мирового годового оборота.
В предварительных выводах расследования Еврокомиссия заявила, что TikTok недостаточно снижает возможные риски персонализированной ленты для психического здоровья пользователей. Регулятор особенно обеспокоен непрерывной последовательностью подобранных для каждого пользователя видео и тем, как алгоритм определяет его интересы.
По версии комиссии, повторное взаимодействие с тревожным материалом система может принять за положительный интерес. В результате человеку чаще показывают похожие видео — так возникает эффект «кроличьей норы», когда лента всё глубже уводит пользователя в одну тему.
Еврокомиссия считает, что бесконечный поток повторяющегося контента о грусти, одиночестве или образе тела может вредить психическому здоровью. Особую уязвимость регулятор отмечает у несовершеннолетних и взрослых, которым легче навредить подобным воздействием.
В предварительных рекомендациях комиссия призвала TikTok переработать раздел For You («Для вас»): больше учитывать явно заданные предпочтения пользователя, перестать использовать время просмотра как сигнал для подбора рекомендаций, сделать настройки контроля заметнее и удобнее, а также регулярно проверять алгоритм.
Выводы пока предварительные: расследование не означает, что нарушение уже окончательно установлено. Размер возможного штрафа — до 6% мирового оборота — предусмотрен на случай, если компания не выполнит требования по итогам окончательного отчёта комиссии.
Претензии к рекомендациям TikTok возникали и раньше. Исследования алгоритма показывали, что инструменты модерации и персонализации не всегда защищают ленты пользователей от вредного контента. Компанию также обвиняли в том, что она знала о недостаточной эффективности мер против чрезмерного экранного времени и опасных тематических «пузырей» в For You.
На той же неделе TikTok, Meta и Google подали иски против генерального прокурора Калифорнии Роба Бонты. Компании добиваются блокировки нового закона штата, запрещающего «вызывающие зависимость» и «психологически эксплуатирующие» элементы дизайна соцсетей. Среди примеров таких функций — бесконечная прокрутка, автоматическое воспроизведение и персональные рекомендации.
PEREC.RU
У цифровой платформы есть занятная привычка: называть бесконечную ленту удобством, пока регулятор не начинает интересоваться, почему из неё так трудно выбраться. Персональные рекомендации подаются как забота о вкусах человека, хотя их практическая цель куда прозаичнее — удержать его внимание подольше. Внимание, как известно, хорошо конвертируется в деньги; психическое здоровье в рекламной отчётности обычно занимает строку помельче.
Еврокомиссия пока не вынесла окончательный вердикт, и это важно. Но сама формулировка претензий показывает, что спор смещается от отдельных роликов к устройству сервиса: не только что человек видит, но и почему система снова и снова ведёт его туда же. Алгоритм не обладает злым умыслом — у него вообще нет намерений, только заданные показатели. Именно поэтому удобно делать вид, будто за результат никто не отвечает: машина просто оптимизировала вовлечённость, а неприятные последствия случайно шли в комплекте.
Предложенные изменения звучат почти вызывающе разумно: спрашивать пользователя о его предпочтениях, не считать время просмотра доказательством интереса, дать понятные инструменты управления и регулярно проверять рекомендации. Для обычного человека это базовая настройка контроля. Для платформы — потенциальная угроза модели, в которой лучший пользователь тот, кто задержался, даже если он задержался не потому, что ему хорошо.
Особенно неловко выглядит разрыв между публичной заботой о безопасности и прежними обвинениями в неэффективности мер против вредного контента и чрезмерного экранного времени. Здесь не нужно придумывать тайный заговор: достаточно посмотреть на стимулы. Если бесконечное потребление приносит выгоду, добровольно ограничивать бесконечность — занятие примерно столь же популярное, как добровольно закрыть кассу в прибыльный день.
Параллельный спор в Калифорнии добавляет сюжету нужную иронию. Крупнейшие платформы судятся с властями из-за запрета на функции, которые удерживают пользователя в приложении, и одновременно говорят языком выбора и инноваций. Возможно, запреты действительно требуют аккуратной юридической оценки. Но пока создаётся впечатление, что свобода пользователя особенно дорога компаниям именно тогда, когда закон хочет дать ему возможность отложить телефон.
Если регуляторы добьются изменений, это станет проверкой не только TikTok, но и всей индустрии: готова ли она считать успехом не максимальное время в приложении, а способность человека спокойно из него выйти. Если нет, нас ждёт знакомый ритуал — заявления о заботе, новые настройки где-нибудь поглубже и очередное «случайное» совпадение между коммерческой выгодой и бесконечной прокруткой.
