Грок под угрозой запрета: страны реагируют на ИИ-чатбота, который генерирует неприемлемый контент

Грок, новый универсальный чат-бот от xAI, который создан помогать пользователям, проверять факты и генерировать тексты, оказался под пристальным вниманием международных регуляторов. Причина проста — он оказался инструментом, позволяющим пользователям получать изображения с сексуализированными образами несовершеннолетних. Это явно нарушает законы по борьбе с детской эксплуатацией, в частности, речь идёт о так называемом CSAM (материалы сексуального насилия над детьми). xAI тут же заверила, что усиливает защиту от подобных запросов, но, как оказалось, эта проблема не решается парой строк кода.

Расследования крупных изданий вроде Reuters, The Atlantic и Wired показали: у Grok «дырявые» ограничения, которые позволяют генерировать массу нежелательного контента по самым сомнительным темам — от сексуализации до откровенного насилия. Пользователи в соцсети X (бывший Twitter) жалуются, что их фотографии были изменены ботом — теперь на них „раздевают“ и надевают вызывающую одежду с помощью искусственного интеллекта. Крупная американская организация RAINN, которая занимается помощью пострадавшим от сексуального насилия, назвала это новой формой технологически поддерживаемого абьюза.

Не только Grok попал в поле зрения: другие ИИ-чат-боты и генераторы изображений тоже уличают в создании откровенно порнографических материалов на просьбу пользователя. Например, та же Meta (компания, владеющая Facebook и Instagram) не раз попадала в подобные скандалы.

Илон Маск пообещал, что xAI серьёзно относится к вопросам создания нелегального контента, но переложил ответственность на плечи пользователей — дескать, кто заказывает, тот и виноват. А попытки лидеров Великобритании заблокировать платформу Маск назвал цензурой, обвинив зарубежные правительства в давлении на свободу слова в интернете.

В реальности активность xAI настолько медлительна, что страны начали самостоятельно ограничивать доступ к чат-боту Grok и даже отдельному приложению, пока идут официальные расследования по поводу защиты пользователей и соответствия законам о цифровой безопасности.

Европейский Союз рассматривает нарушения сразу по нескольким статьям своего „Акта о цифровых услугах“, включая подозрения в «опасном или нестабильном» поведении ИИ. Расследование ускоряется: платформу обязали сохранить всю документацию и внутренние данные по работе Grok. Впрочем, несмотря на прямые обвинения со стороны европейских чиновников, вероятность полной блокировки ресурсов X и Grok пока вызывает сомнения у наблюдателей.

Великобритания готовит свой собственный разбор — если нарушения подтвердятся, Grok может заплатить штраф до 10% от оборота (это около 24 млн долларов). Американское правительство тоже подключилось: новые законы позволяют судам привлекать к ответственности и даже подавать иски к платформам вроде xAI, если те не блокируют публикацию интимных материалов без согласия.

В некоторых странах уже начали вводить временные баны до окончания проверок и наведения порядка:

— Малайзия и Индонезия — временная блокировка
— Индия, ЕС, Франция — расследование
— Великобритания — угрозы блокировки
— Бразилия — угроза ограничения доступа
— Австралия — уже запрещает соцсети пользователям младше 16 лет

Так Grok из безобидного помощника превращается в головную боль для интернет-компаний, юристов и властей по всему миру.