X меняет политику Grok после скандалов с изображениями

Платформа X (ранее известная как Twitter) заявила, что меняет правила для искусственного интеллекта Grok, принадлежащего компании xAI Илона Маска. Это решение принято после нескольких недель критики и скандалов: боту Grok неоднократно предъявляли обвинения в создании сексуализированных изображений детей и недопустимой «обнаженки» без согласия реальных людей.

В свежем заявлении X отмечается, что теперь внедрены технологические ограничения, не позволяющие Grok редактировать фото реальных людей так, чтобы они были изображены в откровенной одежде, например в бикини. Ограничения распространяются на всех пользователей, независимо от того, оформлен ли у них платный доступ к Grok. Более того, теперь все функции создания изображений Grok убирают за платный доступ, прекратив возможность генерации изображений для бесплатных пользователей.

Добавился и геоблок: жителям стран, где такие действия незаконны, полностью запретят генерировать фото реальных людей в бикини и похожих одеяниях — касается и платных пользователей.

Это решение опубликовано спустя несколько часов после того, как власти Калифорнии объявили о начале расследования против xAI и Grok – поводом стали обвинения в создании ИИ-материалов с детской эксплуатацией и сомнительным обращением с обнаженными изображениями. Генеральный прокурор Калифорнии Роб Бонта отметил, что анализ 20 тысяч изображений, созданных Grok за новогодние праздники, показал: более половины из них включали людей в минимальной одежде, в том числе – на некоторых изображениях якобы были дети.

X утверждает, что не терпит никакой эксплуатации детей и оперативно удаляет материалы, нарушающие правила платформы, включая контент с сексуальным насилием над детьми и несанкционированную наготу.

Илон Маск прокомментировал ситуацию: он заявил, что не знает о случаях генерации обнажённых несовершеннолетних Grok. Однако, по его словам, при включённом NSFW-режиме Grok допускает генерацию верхней части тела обнажённых взрослых людей — только вымышленных, не реальных, а по стандартам, схожим с рейтингом R (18+) на Apple TV. Маск добавил, что требования могут различаться в зависимости от страны.

На фоне этого в Малайзии и Индонезии уже заблокировали Grok, ссылаясь на обеспокоенность безопасностью и обращением с откровенным AI-контентом. В Великобритании вопросы также подняли до уровня регулирующего органа Ofcom: там заявили о возможности поддержать блокировку чат-бота.