Роблокс переписывает ругань

Roblox представил новую систему: теперь искусственный интеллект переписывает сообщения с неприемлемой лексикой прямо в реальном времени. Раньше платформа просто заштриховывала запрещённые слова решётками, превращая часть беседы в набор «####», из‑за чего диалог иногда выглядел так, будто его редактировали особо строгие цензоры. Теперь вместо пустых блоков ИИ подбирает «более приличные» аналоги фраз, чтобы переписка хотя бы читалась.

По словам Rajiv Bhatia, который занимает должность Chief Safety Officer в Roblox, первым направлением стала борьба с нецензурной лексикой. Например, если пользователь отправит фразу уровня «Hurry TF up», система перепишет её как «Hurry up!». При этом все участники чата увидят уведомление о том, что сообщение было изменено, а сам отправитель узнает, какую часть текста ИИ посчитал неподходящей. Но важный нюанс: если человек продолжит ругаться, наказания по правилам Roblox всё равно последуют, даже несмотря на автоматическое «смягчение» реплик. Игре важно, чтобы игроки сами учились соблюдать стандарты сообщества, а не прятались за автоцензуру.

Пока функция работает в чатах между пользователями, прошедшими проверку возраста и попадающими в одинаковые возрастные группы. Поддерживаются все языки, доступные в встроенном инструменте перевода. Возрастная проверка появилась на платформе в январе после серии сообщений в СМИ о том, что в Roblox существуют случаи, когда взрослые игроки пытались установить контакт с детьми неподобающим образом. В ответ компания ограничила чат для детей младше 13 лет — теперь им доступны лишь некоторые игровые пространства, а остальные могут общаться только с ровесниками.

Однако даже эти меры не избавили Roblox от юридического давления. В феврале власти округа Лос‑Анджелес подали иск, заявив, что платформа якобы «делает детей лёгкой добычей» для преступников. Генпрокурор Луизианы также подал иск, утверждая, что Roblox «создал публичный парк и заполнил его сексуальными хищниками». Компания пока не комментирует выдвинутые обвинения, но продолжает усиливать инструменты безопасности, надеясь снизить риски и восстановить доверие родителей.