TikTok и бесконечная кроличья нора
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Еврокомиссия обвинила TikTok в нарушении Закона ЕС о цифровых услугах (Digital Services Act, DSA) из-за возможного вреда, который алгоритм рекомендаций может наносить пользователям. Речь идёт о ленте «Для вас» — персонализированном потоке коротких видео. Чем активнее человек смотрит ролики определённого типа, тем чаще система предлагает ему похожие.
По мнению Еврокомиссии, бесконечный повтор контента о грусти, одиночестве или внешности может навредить психическому здоровью. Особенно уязвимы, считают чиновники, несовершеннолетние и взрослые, которым требуется дополнительная защита. Такой эффект регулятор назвал «кроличьей норой»: пользователь всё глубже погружается в одну тему, потому что алгоритм принимает его внимание за знак интереса.
В предварительных выводах комиссии говорится, что TikTok недостаточно оценил риск такого вовлечения и не принял достаточных мер, чтобы его уменьшить. Регулятор также усомнился в эффективности кнопки «Не интересно»: по его оценке, одного нажатия может не хватить, чтобы заметно изменить рекомендации.
Еврокомиссия требует изменить устройство ленты «Для вас». Среди предложений — сильнее учитывать явно заданные предпочтения пользователя, не использовать время просмотра как сигнал для подбора роликов, сделать настройки управления контентом доступнее и удобнее, а также регулярно проверять работу алгоритма.
TikTok отверг обвинения. Компания заявила агентству Reuters, что выводы комиссии содержат «принципиально неточные» утверждения и искажают устройство платформы и её подход к безопасности. По словам TikTok, у сервиса есть опыт защиты сообщества, а пользователи получают прямые и понятные инструменты управления тем, что видят.
Пока выводы предварительные. Они появились в рамках более широкого расследования ЕС, начатого в начале 2024 года. Если комиссия подтвердит нарушения, а TikTok не устранит их в достаточной мере, материнской компании ByteDance может грозить штраф до 6% годовой выручки во всём мире.
Это не первое претензия ЕС к платформе. В феврале европейские чиновники заявили, что «аддиктивный дизайн» TikTok нарушает DSA. В июле они также обвинили компанию в недостаточной защите конфиденциальности аккаунтов несовершеннолетних.
Регуляторы разных стран в последние годы пристальнее проверяют соцсети, прежде всего их влияние на детей. На этой неделе Google, Meta и TikTok подали в суд на штат Калифорния из-за закона, запрещающего соцсетям предоставлять пользователям младше 16 лет доступ к функциям, которые могут вызывать привыкание.
PEREC.RU
У платформ есть удобная привычка называть всё, что удерживает внимание, «персонализацией». Звучит почти заботливо: сервис будто подбирает человеку именно то, что ему нужно. Даже если нужное — ещё один час тревожных роликов и ощущение, что выход из ленты предусмотрен только для людей с железной волей.
Регуляторы, со своей стороны, тоже не открыли тайну века: бизнес зарабатывает на внимании, а значит, у него есть стимул не отпускать зрителя слишком быстро. Теперь этот стимул предлагают измерить правилами и штрафом. Не самый изящный способ объяснить компаниям, что пользователь — не бесконечный запас кликов, но корпоративная деликатность редко слышит намёки.
Самый занятный конфликт здесь — между обещанием контроля и устройством системы. Человеку выдают кнопку «Не интересно», а затем выясняется, что одного жеста может быть мало. Получается цифровой вариант разговора с автоматом: нажмите нужную кнопку, чтобы автомат продолжил делать то, что выгодно ему.
TikTok настаивает, что обвинения искажают работу платформы и её усилия по защите пользователей. Это ожидаемая позиция: никто не мечтает добровольно признать, что продукт устроен так, чтобы удерживать внимание. Еврокомиссия тоже пока не вынесла окончательный вердикт — её выводы предварительные, а значит, впереди юридическая процедура, экспертизы и соревнование пресс-релизов на тему того, кто заботится о людях убедительнее.
На заднем плане уже выстраивается привычная сцена: регуляторы обещают защитить детей, компании говорят о свободе выбора, а взрослые пытаются вспомнить, зачем вообще открыли приложение. Калифорнийский спор вокруг ограничений для пользователей младше 16 лет показывает, что разговор давно вышел за рамки одной платформы. Соцсети хотят сохранить доступ к аудитории, власти — доказать, что способны ограничивать цифровой бизнес, и обе стороны охотно прикрывают интересы словами о благополучии.
И всё же вопрос не в том, существует ли вредный контент, а в том, кто управляет его повторением и кто отвечает за последствия. Когда рекомендация подаётся как нейтральная услуга, а последствия объявляются личной проблемой пользователя, баланс получается удивительно удобным для владельца системы. Остаётся надеяться, что проверки будут не очередным ритуалом с толстыми папками, после которого алгоритм просто научится выглядеть послушнее.
