Зачем нам ненависть, когда есть военное братство?

Компания Meta опубликовала первый квартальный отчет о соблюдении норм после того, как Марк Цукерберг изменил политику в отношении ненавистнической речи и подход к модерации контента в этом году. По данным отчетов, Facebook наблюдает рост насильственного контента, буллинга и домогательств, несмотря на общее сокращение количества удаляемого контента.

Это первый случай, когда Meta делится данными о последствиях решения Цукерберга изменить политику компании на платформе, которой пользуются миллиарды людей. Примечательно, что компания представляет изменения как победу, утверждая, что она снизила количество своих ошибок в два раза, хотя общее количество контента, нарушающего правила, "в значительной степени осталось неизменным для большинства проблемных областей".

Однако есть два заметных исключения. Насильственный и графический контент увеличился с 0.06%-0.07% в конце 2024 года до 0.09% в первом квартале 2025 года. Meta связывает этот рост с "увеличением распространения нарушающего контента", а также с собственными попытками "снизить количество ошибок в соблюдении норм". Также было отмечено увеличение буллинга и домогательств на Facebook, который возрос с 0.06-0.07% в конце 2024 года до 0.07-0.08% в начале 2025 года. Meta утверждает, что это было вызвано неуточненным "скачком" нарушений в марте. (Примечательно, что это отдельная категория по сравнению с политиками компании по ненавистнической речи, которые были переписаны, чтобы разрешить публикации, нацеленные на иммигрантов и ЛГБТК-персон).

Эти проценты могут показаться относительно мелкими, но даже небольшие увеличения могут быть заметными для платформы, такой как Facebook, которая получает миллиарды публикаций каждый день. (Meta описывает свою метрику распространенности как оценку частоты появления контента, нарушающего правила, на своей платформе.)

Отчет также подчеркивает, насколько меньше контента Meta удаляет в целом с тех пор, как она ушла от проактивного соблюдения всех, кроме самых серьезных политик, таких как эксплуатация детей и террористический контент. Отчет Meta показывает значительное сокращение числа публикаций на Facebook, удаленных за ненавистнический контент, например, с 3.4 миллиона удаленных по этой политике, что является наименьшей цифрой с 2018 года. Удаления спама также резко сократились с 730 миллионов в конце 2024 года до всего лишь 366 миллионов в начале 2025 года. Число удаленных фальшивых аккаунтов также значительно снизилось на Facebook: с 1.4 миллиарда до 1 миллиарда (Meta не предоставляет статистики о удалениях фальшивых аккаунтов в Instagram).

В то же время Meta утверждает, что она делает намного меньше ошибок в модерации контента, что было одной из основных причин решения Цукерберга прекратить проактивную модерацию. "Мы зафиксировали снижение на примерно 50% ошибок в соблюдении норм на наших платформах в США с четвертого квартала 2024 года до первого квартала 2025 года," написала компания в обновлении к своему январскому посту, объявляющему изменения в политике. Meta не объяснила, как была вычислена эта цифра, но сказала, что будущие отчеты будут "включать метрики о наших ошибках, чтобы люди могли отслеживать наш прогресс".

Meta, однако, признает, что существует хотя бы одна группа, для которой все же необходима некая проактивная модерация: подростки. "В то же время мы остаемся приверженными тому, чтобы обеспечить подросткам на наших платформах максимально безопасный опыт," написала компания. "Именно поэтому, для подростков мы будем продолжать проактивно скрывать другие типы вредного контента, такие как буллинг." Meta уже несколько месяцев внедряет "подростковые аккаунты", которые должны облегчить фильтрацию контента специально для юных пользователей.

Компания также предложила обновление о том, как она использует большие языковые модели для помощи в своих усилиях по модерации контента. "После дополнительных тестов мы начинаем видеть, что LLM работают лучше, чем люди по отдельным пунктам политики," пишет Meta. "Мы также используем LLM для удаления контента из очередей на рассмотрение в некоторых случаях, когда мы уверены, что он не нарушает наши правила."

Другой ключевой компонент изменений в политике Цукерберга было прекращение партнерства Meta по проверке фактов в США. Компания начала внедрять свою версию Community Notes в Facebook, Instagram и Threads в начале этого года и с тех пор расширила усилия на Reels и ответы на Threads. Meta не предоставила никаких данных о том, насколько эффективен новый подход к проверке фактов, основанный на мнениях пользователей, или как часто нотатции появляются на ее платформе, хотя и пообещала обновления в ближайшие месяцы.