Roblox reescribe los tacos

Roblox ha presentado un nuevo sistema: ahora la inteligencia artificial reescribe en tiempo real los mensajes con lenguaje inapropiado. Antes, la plataforma simplemente sustituía las palabras prohibidas por almohadillas, convirtiendo parte de la conversación en una sucesión de «####», hasta el punto de que a veces parecía que la había editado un censor especialmente estricto. Ahora, en lugar de bloques vacíos, la IA busca expresiones «más decentes» para que al menos se pueda leer el chat.

Según Rajiv Bhatia, Chief Safety Officer de Roblox, el primer objetivo ha sido combatir las palabrotas. Por ejemplo, si un usuario escribe algo del estilo de «Hurry TF up», el sistema lo cambia por «Hurry up!». Todos los participantes del chat recibirán un aviso de que el mensaje se ha modificado, y el remitente sabrá qué parte del texto consideró inapropiada la IA. Pero hay un matiz importante: si alguien sigue insultando, se le aplicarán igualmente las sanciones previstas por las normas de Roblox, aunque sus mensajes se hayan «suavizado» automáticamente. La plataforma quiere que los jugadores aprendan a respetar las normas de la comunidad, en vez de escudarse en la autocensura.

Por ahora, la función está disponible en los chats entre usuarios que hayan verificado su edad y pertenezcan al mismo grupo de edad. Es compatible con todos los idiomas disponibles en la herramienta de traducción integrada. La verificación de edad llegó a la plataforma en enero, después de que varios medios informaran de casos en los que jugadores adultos intentaban contactar de forma inapropiada con menores en Roblox. En respuesta, la empresa limitó el chat para los menores de 13 años: ahora solo tienen acceso a ciertos espacios de juego, y en los demás solo pueden comunicarse con otros usuarios de su edad.

Sin embargo, ni siquiera estas medidas han librado a Roblox de la presión judicial. En febrero, las autoridades del condado de Los Ángeles presentaron una demanda en la que afirmaban que la plataforma supuestamente «convierte a los niños en presa fácil» para los delincuentes. El fiscal general de Luisiana también presentó una demanda, alegando que Roblox «creó un parque público y lo llenó de depredadores sexuales». La empresa aún no ha comentado las acusaciones, pero sigue reforzando sus herramientas de seguridad con la esperanza de reducir los riesgos y recuperar la confianza de los padres.