Reddit запускает модерацию с помощью ИИ
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Reddit, популярная платформа для обсуждения самых разных тем, решила привлечь искусственный интеллект (ИИ) к модерации новых сообществ — а в дальнейшем и остальной части сайта. Теперь вместо исключительно человеческих модераторов, за чистотой контента на Reddit будет следить автоматизированная система на базе ИИ. Компания запускает набор инструментов автоматической модерации, которые в первую очередь предназначены для помощи модераторам в управлении своими сообществами.
Новая система получила название «Rules Hub» (Центр Правил). Суть этого инструмента в том, что сами модераторы могут задавать список правил, а также определять, что должно происходить при их нарушении. Например, если пользователь размещает пост, который не соответствует правилам сообщества, алгоритм на базе языковой модели (LLM — large language model, что по-русски можно перевести как "объемная языковая модель" или ИЯ большого масштаба) анализирует содержание и принимает решение: соответствует опубликованное сообщение правилам или нет, а затем либо блокирует, либо выдает предупреждение или другую реакцию.
Разработчики Reddit утверждают, что такое решение позволяет системе лучше разбираться в нюансах языка, в том числе в сложных или спорных ситуациях, когда простого набора ключевых слов уже недостаточно. Кроме того, расширяется область применения этих инструментов: если раньше ИИ могли использовать только некоторые администраторы, то сегодня список расширен — большее количество пользователей сможет воспользоваться системой Rules Hub, а полноценный запуск ожидается ближе к концу года.
В ближайшее время тестировать систему будут в новых, только что созданных сообществах на Reddit. Основная цель — проверить, насколько ИИ справляется с различными случаями, с которыми сталкиваются модераторы: от спама и нецензурных выражений до уникальных ситуаций внутри узкоспециализированных групп.
Reddit отмечает, что модераторы сохраняют возможность задавать тон работы своего сообщества и контролировать действия ИИ. Автоматизацию предлагают не как замену человеческой модерации, а как инструмент для сокращения рутинной работы и более качественного поддержания порядка в многолюдных сообществах.
PEREC.RU
Reddit снова решил что люди — существа ненадежные, особенно когда им доверяют власть на просторах огромной платформы. Вместо привычных добровольцев с неистощимым энтузиазмом теперь модераторами назначают искусственный интеллект. Да не простой, а основанный на модных "объемных языковых моделях", что намекает: машину учат разбираться даже там, где обычный фильтр слов бы давно сдался.
История такова: любой уважающий себя модератор сегодня получает в руки новый шикарный инструмент под названием Rules Hub. Он позволяет писать любые правила, а искусственный интеллект берёт на себя грязную работу — ищет тех, кто решил действовать по-своему. Якобы так модераторы будут меньше искать в тексте очередные изыски креативных нарушителей, а больше — "управлять тоном" в своих уютных интернет-подвалах.
Система пока доступна в новых сообществах, основная задача — проверить, насколько робот справится со всеми попытками читателей затроллить алгоритм, бросить вызов уставу или просто зарядить мем-оскорбление. Но не обольщайтесь: увольнять людей-цензоров пока никто не собирается. Им даже милостиво оставили право решающего голоса в спорных случаях, будто этому искусственному разуму нельзя доверять окончательно.
Главная интрига, конечно, в том, сможет ли Reddit сэкономить на человеческих нервах, не превращая платформу в скучную машину по блокировке смысла. Интеллектуальный контроль переходит от человека к коду — на нашем веку это новое дитя цифровой жизни. Русским читателям стоит не терять интерес: возможно, наш русский мат и мемы окажутся последним бастионом противофильтрационной мысли.
