Grok ограничил создание откровенных дипфейков пользователей X

Искусственный интеллект Grok, разработанный компанией Илона Маска xAI для платформы X (бывший Twitter), ввёл новые ограничения — теперь пользователи не смогут создавать изображения реальных людей в откровенной одежде, вроде бикини. Это попытка бороться с наплывом сексуализированных дипфейков, особенно после внимания, которое проблеме уделили власти Калифорнии и Великобритании.

Сообщение об ограничениях появилось в официальном аккаунте безопасности X вечером среды. В нём уточняется, что мера распространяется абсолютно на всех, включая платных подписчиков. Также команда X подчёркивает свою нетерпимость к детской порнографии (CSAM) и к порнографическим изображениям без согласия пострадавших. К слову, функции по созданию и редактированию изображений в Grok теперь доступны лишь подписчикам.

Появилась и новая функция: для определённых юрисдикций, где запрещено создавать изображения реальных людей в бикини или белье, введён «геоблок» — такой контент просто невозможно создать через Grok в этих странах.

Все эти действия — ответ на волну критики в 2024 году. Массово распространялись дипфейки звёзд и детей: ИИ Grok и пользователи плодили изображения с сексуальным подтекстом, что и привлекло внимание регуляторов. Генеральный прокурор Калифорнии Роб Бонта публично потребовал немедленно навести порядок, угрожая использовать все возможные юридические инструменты и напоминая, что такого рода контент используется для травли женщин и детей в интернете.

Пока Grok публично ограничивал «развлечения» пользователей, сам Илон Маск вроде бы «подначивал» попробовать обойти систему создания изображений — как раз в тот же день, когда команда X рапортовала об очередной порции правил.

Не отстаёт и Великобритания — премьер-министр Кира Стармер назвал действия Grok «возмутительными» и «отвратительными», поручив регулятору Ofcom при поддержке правительства «приструнить» и X, и xAI. Стармер даже пригрозил Маску, что «если X не сможет контролировать Grok, это сделает государство». В эти же дни Индонезия и Малайзия заблокировали ИИ Grok на своей территории.

Не остались в стороне и американские политики: трое демократов призвали Apple убрать X и Grok из магазина приложений. Однако к вечеру среды обе программы там по-прежнему доступны.

Такие резкие изменения политики, бросается в глаза, — это реакция руководства X на осознание того, что компания уже не может прикрываться 230-й статьёй Закона о приличии в СМИ, который в течение 30 лет защищал платформы от судебных исков за пользовательский контент. Если контент создаётся не пользователем, а самим ИИ, правовая защита становится дырявой.