Reddit pone en marcha la moderación con IA
Reddit, la popular plataforma para debatir sobre todo tipo de temas, ha decidido recurrir a la inteligencia artificial (IA) para moderar las comunidades nuevas y, más adelante, el resto del sitio. A partir de ahora, un sistema automatizado basado en IA velará por la limpieza del contenido en Reddit, en lugar de depender exclusivamente de moderadores humanos. La empresa lanza un conjunto de herramientas de moderación automática, pensadas sobre todo para ayudar a los moderadores a gestionar sus comunidades.
El nuevo sistema se llama «Rules Hub» (Centro de normas). La herramienta permite a los propios moderadores establecer una lista de reglas y decidir qué debe ocurrir si alguien las incumple. Por ejemplo, si un usuario publica algo que no respeta las normas de la comunidad, un algoritmo basado en un modelo de lenguaje grande (LLM, por sus siglas en inglés) analiza el contenido y decide si el mensaje cumple las reglas; después puede bloquearlo, emitir una advertencia o tomar otra medida.
Los desarrolladores de Reddit sostienen que esta solución permite al sistema captar mejor los matices del lenguaje, incluso en situaciones complejas o polémicas en las que ya no basta con una lista sencilla de palabras clave. Además, se amplía el alcance de estas herramientas: antes solo algunos administradores podían utilizar la IA, pero ahora más usuarios tendrán acceso a Rules Hub. Se espera que el lanzamiento completo llegue hacia finales de año.
En las próximas semanas, el sistema se probará en comunidades nuevas, recién creadas en Reddit. El objetivo principal es comprobar cómo se desenvuelve la IA ante los distintos casos a los que se enfrentan los moderadores: desde el spam y las expresiones malsonantes hasta situaciones propias de grupos muy especializados.
Reddit señala que los moderadores conservarán la capacidad de marcar el tono de su comunidad y controlar las acciones de la IA. La automatización se presenta como una herramienta para reducir el trabajo rutinario y mantener mejor el orden en comunidades multitudinarias, no como un sustituto de la moderación humana.
PEREC.RU
Reddit vuelve a decidir que los humanos son criaturas poco fiables, sobre todo cuando se les confía poder en los vastos territorios de una gran plataforma. En lugar de los voluntarios de siempre, armados de entusiasmo inagotable, ahora nombran moderadora a la inteligencia artificial. Y no a cualquiera: se basa en esos de moda «modelos de lenguaje grandes», lo que sugiere que están enseñando a la máquina a entender incluso los casos en los que un filtro de palabras corriente ya habría tirado la toalla.
La historia es esta: cualquier moderador que se precie recibe hoy una flamante herramienta llamada Rules Hub. Permite redactar las normas que quiera, y la inteligencia artificial se encarga del trabajo sucio: buscar a quienes deciden hacer las cosas a su manera. Supuestamente, así los moderadores pasarán menos tiempo rastreando en los textos las ocurrencias de los infractores creativos y más «marcando el tono» de sus acogedores sótanos de internet.
Por ahora, el sistema está disponible en comunidades nuevas. El objetivo principal es comprobar hasta qué punto el robot puede con los intentos de los usuarios de trolear al algoritmo, desafiar el reglamento o soltar un insulto en forma de meme. Pero no se hagan ilusiones: nadie piensa despedir de momento a los censores humanos. Hasta les han dejado amablemente la última palabra en los casos dudosos, como si no se pudiera confiar del todo en esa inteligencia artificial.
La gran incógnita, claro, es si Reddit conseguirá ahorrar desgaste humano sin convertir la plataforma en una máquina aburrida que bloquea el sentido. El control inteligente pasa de las personas al código: en nuestros tiempos, es el nuevo retoño de la vida digital. Los lectores rusos harían bien en seguir atentos: quizá nuestras palabrotas y memes rusos resulten ser el último bastión del pensamiento antifiltro.
