Grok и скандал с CSAM: иск разрастается

Американский федеральный суд готовится рассмотреть разрастающийся скандал вокруг искусственного интеллекта Grok, который принадлежит компании SpaceXAI, контролируемой Илоном Маском. В марте трое подростков из штата Теннесси подали в суд на компанию, утверждая, что платформу Grok использовали злоумышленники для генерации миллионов непристойных изображений несовершеннолетних. Истцы утверждают, что, когда они были детьми, их изображения были использованы для создания порнографических материалов при помощи функций генерации изображений Grok. В апреле к иску присоединились ещё двое заявителей, которые подробно описали в своих заявлениях ужасающие случаи сексуального насилия в интернете, ставшего возможным благодаря функциям искусственного интеллекта Grok. Теперь в деле фигурирует второй ответчик — Stability AI, разработчик популярной нейросети Stable Diffusion, также создающей изображения по текстовому описанию. Одна из новых истцов, скрывающаяся под псевдонимом Джейн Доу 4, заявила: «Неограниченный доступ к таким инструментам распространяется слишком быстро. Они проникают в обычную жизнь и превращают её в сексуальное насилие над детьми». Согласно американскому законодательству, компании обязаны сообщать о подозреваемых случаях сексуальной эксплуатации детей в Национальный центр поиска пропавших и эксплуатируемых детей (NCMEC). В 2025 году такие гиганты как Meta, Amazon AI Services, TikTok, Snapchat, Discord, X.AI, Grindr и Roblox отправили в NCMEC 17 миллионов сообщений — это 80% от всех поступивших сигналов. Однако, утверждает NCMEC, в этих отчетах часто отсутствовала ключевая информация, в том числе о наличии материалов сексуального насилия над детьми (CSAM) в тренировочных данных ИИ, а также подробности, которые могли бы помочь органам расследования найти виновных. В расширении иска указано, что компания X отправила только одну жалобу по делу Джейн Доу 4 и не предоставила полиции дополнительные сведения, когда те запросили их. Злоумышленник, по данным полиции, с помощью Grok создал более 7 тысяч порнографических изображений и видео с Джейн Доу 4, используя всего одну её детскую фотографию. Кроме обвинений в создании CSAM, истцы утверждают, что SpaceXAI (прежнее название xAI) фактически извлекала прибыль из сексуальной эксплуатации детей, позволяя функциям Grok участвовать в этих процессах. К тому же, по мнению заявителей, компания внесла вклад в общественную опасность из-за халатности и некачественной разработки платформы. Адвокат истцов, Анника Мартин, заявила в интервью NPR, что Grok является «бедствием для общества».