Grok снова в суде: иск из-за дипфейков и детских изображений
Компания SpacexAI Илона Маска, ранее известная как xAI, столкнулась с новым иском из-за возможностей чат-бота Grok, связанных с созданием несанкционированных сексуализированных дипфейков. Дипфейк — это искусственно сгенерированное изображение или видео, которое может выглядеть как настоящая фотография человека.
В суд США подан предполагаемый коллективный иск, который может распространяться на пострадавших по всей стране. В документе утверждается, что компания обучала Grok на наборах данных, содержащих материалы сексуального насилия над детьми (CSAM) с изображениями реальных несовершеннолетних. По версии истцов, SpacexAI не смогла должным образом заблокировать откровенный контент, предотвратить создание сексуализированных дипфейков реальных людей и удалить материалы насилия из обучающих наборов.
Главная истца, обозначенная в деле как Jane Doe, утверждает, что стала жертвой сексуального насилия в детстве, а изображения нападения на неё использовались для обучения Grok. По её словам, чат-бот затем создавал новые откровенные изображения с её внешностью на основе этих материалов. В иске также говорится, что сходство с Doe могло использоваться для создания других цифровых изображений несовершеннолетних.
«Почти два десятилетия наша клиентка живёт с пониманием, что изображения самого страшного события в её жизни распространяются среди злоумышленников в интернете и могут вновь появиться в любой момент», — заявила адвокат Doe Сара Лондон. Она считает, что xAI должна понести ответственность за сознательное обучение моделей на изображениях пережитого женщиной насилия и на материалах, связанных с другими потерпевшими.
CSAM — международно используемое обозначение материалов сексуального насилия над детьми. В США такие материалы проверяет и хранит National Center for Missing & Exploited Children (NCMEC), чтобы помогать расследованиям и препятствовать их дальнейшему распространению. Файлы преобразуют в уникальные цифровые отпечатки — хэши — и заносят в специальный Hash List. Интернет-провайдеры могут сравнивать файлы с этим списком и автоматически выявлять запрещённые материалы, не обращаясь к оригинальным изображениям.
Нынешний иск стал одним из нескольких коллективных дел против SpacexAI. Их связывают с функциями Grok для «раздевания» людей на изображениях и с предполагаемым созданием материалов сексуальной эксплуатации детей. На фоне международного скандала, связанного с эксплуатацией несовершеннолетних, несколько стран временно ограничивали доступ к AI-инструменту.
В январе женщина подала отдельный иск, заявив о пережитом эмоциональном ущербе. По её версии, пользователи X применяли Grok, чтобы цифровым способом переодевать её фотографии в чрезмерно откровенные наряды. В документе утверждается, что SpacexAI создала генеративный чат-бот, который унижает и сексуально эксплуатирует женщин и девочек, «раздевая» их и помещая в сексуальные позы на дипфейк-изображениях, опубликованных в X.
В марте трое подростков также подали иск из-за роли Grok в создании тысяч откровенных изображений с ними, когда они были несовершеннолетними. О существовании этих файлов им сообщили правоохранительные органы. В начале этого месяца дело расширили: к нему добавили ещё двух истцов. Обновлённый иск обвиняет SpacexAI в том, что компания недостаточно эффективно сообщала о случаях CSAM в NCMEC, хотя, согласно утверждению истцов, такое уведомление требуется законом.
В качестве дополнительного ответчика в обновлённом иске указана Stability AI — разработчик популярной модели генерации изображений Stable Diffusion. Все изложенные обвинения являются утверждениями истцов и ещё должны быть рассмотрены судом.
PEREC.RU
История вокруг чат-бота Grok перешла в очередную судебную фазу. Против компании SpacexAI Илона Маска, ранее известной как xAI, подан предполагаемый коллективный иск, который может охватить пострадавших по всей территории США. Поводом стали обвинения в том, что Grok способен создавать несанкционированные сексуализированные дипфейки реальных людей, а его обучающие данные могли включать материалы сексуального насилия над детьми.
Главная истца, Jane Doe, утверждает, что пережила сексуальное насилие в детстве. По версии иска, изображения нападения на неё использовались при обучении Grok, после чего чат-бот создал новые откровенные изображения с её внешностью. Документ также говорит о возможном использовании её сходства для генерации других цифровых изображений несовершеннолетних. Адвокат Сара Лондон заявила, что её клиентка почти два десятилетия живёт с угрозой повторного распространения изображений пережитого насилия и считает SpacexAI ответственной за обучение моделей на подобных материалах.
Истцы утверждают, что компания не смогла эффективно блокировать откровенный контент, предотвращать сексуализированные дипфейки без согласия людей и удалять материалы насилия из обучающих наборов. Отдельно поднят вопрос о возможном недостаточном информировании National Center for Missing & Exploited Children (NCMEC) о случаях CSAM. Это американский Национальный центр по пропавшим и эксплуатируемым детям; по утверждению истцов, уведомление о таких случаях требуется законом.
CSAM — обозначение материалов сексуального насилия над детьми. NCMEC использует их в расследованиях и для предотвращения дальнейшего распространения. Изображения преобразуют в цифровые отпечатки, или хэши, и хранят в Hash List. Интернет-провайдеры могут сравнивать файлы с этим списком и автоматически выявлять запрещённый контент, не обращаясь к оригиналам.
Новый иск стал частью серии дел против SpacexAI. В январе женщина заявила, что пользователи X применяли Grok для цифрового изменения её фотографий: на полученных изображениях она якобы была одета в откровенные наряды и помещена в сексуальные позы. В марте трое подростков подали иск из-за тысяч сексуализированных изображений с их внешностью, созданных в то время, когда они были несовершеннолетними. О существовании изображений подросткам сообщили правоохранители.
В начале августа иск подростков расширили, добавив ещё двух истцов. В обновлённом документе ответчиком также стала Stability AI — разработчик модели Stable Diffusion. На фоне международного скандала, связанного с эксплуатацией детей, несколько стран временно ограничивали доступ к Grok.
Все обвинения пока являются позицией истцов и должны получить судебную оценку. Суть разбирательств — в том, смогла ли SpacexAI обеспечить защиту людей, особенно несовершеннолетних, от использования их образов в генеративных моделях и исполнила ли установленные законом обязанности по выявлению и передаче сведений о запрещённых материалах.
