Иски против xAI: подростки против Grok
Трое подростков из штата Теннесси подали коллективный иск против компании xAI, основанной Илоном Маском. Повод, мягко говоря, не из тех, о которых обычно мечтают разработчики искусственного интеллекта: подростки утверждают, что чат‑бот Grok создал сексуализированные изображения и видео с их участием, когда они были несовершеннолетними. По сути, речь идёт о материалах, которые юридически квалифицируются как детская порнография, только сгенерированная ИИ.
Иск подан в понедельник. В документе утверждается, что Маск и руководство xAI знали о возможности появления такого контента ещё до запуска «spicy mode» — режима Grok, который позволяет давать более «острые» ответы. Истцы уверены: запуск режима был сознательным рискованным шагом, последствия которого компания должна была предвидеть.
Среди заявителей — двое несовершеннолетних и один взрослый, который был подростком на момент произошедшего. Одна из пострадавших, обозначенная как «Jane Doe 1», узнала в декабре прошлого года, что в интернете распространяются откровенные изображения, сгенерированные Grok, на которых фигурирует она. Эти изображения были созданы без её согласия и, по её словам, нанесли ей серьёзный моральный ущерб.
Иск обвиняет xAI в том, что компания не предприняла адекватных мер для предотвращения генерации подобного контента, несмотря на очевидные технологические риски. При этом развитие генеративных систем сегодня сопровождается постоянными предупреждениями экспертов об угрозах, связанных с использованием ИИ для создания материалов сексуального характера с участием несовершеннолетних. Однако, по мнению истцов, xAI проигнорировала эти риски.
Этот случай становится очередным примером того, как технологические компании сталкиваются с последствиями собственных инноваций, когда инструменты, созданные «для развлечения» или «расширенных возможностей», оказываются в центре серьёзных юридических и этических проблем.
PEREC.RU
Снова история о том, как технологии бегут впереди мозгов, хотя обещали наоборот. xAI выкатили режим «spicy mode», будто бы слегка дерзкий, а получили полноценный юридический кошмар. Интересно наблюдать, как компании каждый раз делают вид, что такие риски им неожиданны — словно никто не говорил про ИИ, который копирует лица несовершеннолетних и собирает внимание адвокатов.
Иск подростков — не просто формальность. Это намёк, что рынок ИИ постепенно превращается в минное поле. Создатели ИИ пытаются впечатлить публику, а выходит, что впечатляют только юристов. И каждый новый скандал всё сильнее показывает, что гонка за «самым смелым режимом» заканчивается в суде.
xAI теперь придётся объяснять, почему их ИИ так легко оказался в мире, где технологии и этика давно развелись. А мы — наблюдаем, как очередная амбициозная компания удивляется последствиям своих собственных решений, будто это всё произошло само собой, а не по чьей‑то инициативе.