Зачем нам не нужны "контентные полицейские" в соцсетях: проблема глубже

В апреле компания Meta внезапно удалила с Instagram публикацию, посвящённую пожилым лесбиянкам в Бразилии. Пост не был сексуального характера и не содержал ничего, что могло бы навредить детям. В нём рассказывалось о тех временах, когда лесбийские пары были вынуждены притворяться просто соседками или "подружками", чтобы не попасть под общественное осуждение. Несмотря на историческую и просветительскую ценность, Meta удалила этот пост, сославшись на свои правила по борьбе с "языком вражды". Позже специальная надзорная комиссия признала ошибочность решения: автоматические системы соцсети не смогли уловить контекст и смысл публикации. Пост был восстановлен только после внешнего давления и поддержки ЛГБТК+ сообщества.

Случай с Бразилией превратился для Meta в очередную "ошибку модерации" и быстро затих, но для политиков он должен стать тревожным звонком: когда законы заставляют соцсети жестко фильтровать контент, страдают реальные люди - особенно те, кому публичность запрещена или опасна. Сейчас по всему миру власти спешно принимают законы по "защите детей в интернете", то предлагая запретить соцсети до 16 лет, то требуя удалять "вредный" контент со скоростью автомата. Но показательный пример: в Австралии после запрета доступа к соцсетям для детей младше 16 лет, молодые аутисты лишились единственного места общения и поддержки.

Автоматизированные системы модерации и рекомендации не понимают, что такое уязвимость и зачем кому-то важно найти похожих на себя. Для ЛГБТК+ подростков, особенно в закрытой среде, онлайн-площадки часто остаются единственным окном в мир, где можно получить информацию, найти поддержку или просто понять, что ты не один. Но именно эти дети чаще сталкиваются с травлей, домогательствами, шантажом — ведь алгоритмы не различают поддержку и угрозу, им главное вовлечь пользователя глубже.

То же и с бесконечной лентой: для подростков выйти из неё почти невозможно. Рекомендации соцсетей часто подталкивают к взрослому контенту, незнакомым людям, экстремистским сообществам, а запретительные меры модерации подрезают и те единственные здоровые способы найти друзей и опору.

Реальная опасность для детей — не в отдельном случайно пропущенном посте, а в системах, где чужой ребёнок втягивается в поток случайных, часто вредных советов и опасных знакомств, причём без выхода наружу. Отсюда вывод: если законы будут регулировать не тексты пользователей, а само устройство соцсетей — например, ограничивать слежку, шаблоны вовлечения и принудительную подачу контента, — вреда станет меньше.

Кодексы этичного проектирования интерфейсов требуют не цензуры памяти и опыта, а ограничений на манипуляции и автоматические рычаги втягивания. К такому подходу призывают и родители, и активисты. Чем меньше соцсети будут следить за "правильностью" слов, и больше займутся своей токсичной механикой, тем безопаснее сеть станет для уязвимых детей.

Главное, чтобы законодатели не путали цензуру с защитой. Потому что пока мы обсуждаем "опасный" контент, дети продолжают скользить по бесконечной алгоритмической горке прямо в объятия тех, кто их там точно не ждал.