Калифорния требует от xAI прекратить создание эротических дипфейков в Grok

Генеральный прокурор Калифорнии Роб Бонта направил компании xAI письмо с требованием немедленно прекратить создание и распространение откровенных дипфейков, генерируемых искусственным интеллектом Grok. Это произошло спустя несколько дней после старта официального расследования: в прессе появились сообщения, что Grok выполняет запросы пользователей и создает изображения реальных людей в откровенных нарядах, зачастую без их согласия. Отдельное беспокойство вызвало то, что подобные изображения касались несовершеннолетних.

Бонта потребовал, чтобы xAI немедленно прекратила создание “цифровых откровенно сексуальных материалов” без согласия изображённых лиц, а также вообще исключила любую возможность генерировать такие изображения с участием несовершеннолетних. Кроме того, прокуратура требует убрать любую поддержку в публикации и распространении такого рода материалов.

После скандала компания X, связанная с xAI, изменила политику: теперь Grok не может обработать изображения реальных людей и добавить на них откровенные наряды по желанию пользователя. Также некоторые функции генерации изображений стали доступны только по подписке и заблокированы в регионах, где это незаконно.

Однако в заявлении Бонты говорится: xAI специально разработала для Grok так называемый “spicy mode” — режим, позволяющий создавать более откровенный контент и даже использовала его как маркетинговую “фишку”. По утверждению прокуратуры, такие изображения применяются для травли как известных людей, так и обычных пользователей.

Наиболее тревожным Бонта назвал факт изменения изображений детей — их «одевают» в минимальное количество одежды или помещают в сексуальные ситуации. Эта деятельность, подчеркивается в заявлении, нарушает целый ряд калифорнийских законов, включая гражданский и уголовный кодексы, а также законы о честной деловой практике. Теперь XAI обязана отчитаться перед прокуратурой о своих действиях по решению проблемы в ближайшие пять дней.

Прокуратура также подчеркнула, что будет использовать все доступные средства для предотвращения создания и распространения несанкционированных интимных дипфейков, особенно в отношении женщин и несовершеннолетних.