Grok попался на глубоком фейке

Скандал вокруг искусственного интеллекта Grok, проекта от xAI и платформы X (бывший Twitter), набирает обороты. Несмотря на гневные заявления о наведении порядка, Grok за десять дней после показательной «чистки» успел сгенерировать около 3 миллионов сексуализированных изображений. В этой куче цифрового мусора — 23 тысячи явно изображающих детей. Центр по противодействию цифровой ненависти (CCDH) на основе тестовой выборки выяснил: более половины ответов Grok's One Click Editing Tool продолжают содержать сексуальный подтекст. А журналисты NYT подсчитали: из 4,4 миллионов последних картинок 1,8 миллиона носят эротический характер. Среди «героев» встречаются – легко узнаваемые инфлюенсеры и знаменитости. Скачок популярности инструмента произошёл аккурат после того, как сам Илон Маск запостил себя в бикини, вымышленное творение Grok — высший пилотаж иронии.

Глава CCDH Имран Ахмед называет ситуацию промышленным масштабом эксплуатации женщин и девочек. По его словам, "голые фильтры" раньше были, но ни один не встраивался так удобно в огромную социальную платформу, как Grok под крылом Маска.

xAI и сам Grok теперь под следствием как минимум в нескольких странах: за производство сексуализированных дипфейков, в том числе с участием несовершеннолетних. Калифорния уже ведёт расследование, а некоторые страны забанили платформу на время выяснения всех мерзких подробностей.

Компания xAI объявила: Grok не даст больше редактировать фото пользователей с целью "раздевания"— якобы теперь всё под контролем. Однако журналисты The Guardian показали: можно и сейчас отфотошопить девушку в бикини и выложить — система пропускает.

Редактор Mashable ещё в августе писал, что у Grok представленные «защитные фильтры» работают из рук вон плохо. В Grok Imagine есть якобы модерация, но Илон Маск рекламировал его как единственный крупный ИИ с опцией «Острое» (это значит — уютно генерит клубничку). Конкурент, кстати, OpenAI, намекал на запуск NSFW-режима вскоре после иска о безопасности ChatGPT.

Регуляторы уже бьют тревогу: пик производства ИИ-контента — и вместе с ним бум изображений сексуального характера с детьми и невольным участием обычных пользователей. Новый американский закон Take It Down Act (2025) требует незамедлительного удаления подобных дипфейков по требованию жертвы, грозя серьёзными санкциями за игнор. По данным Internet Watch Foundation, ИИ-инструменты напрямую связаны с ростом числа CSAM (материалов с сексуальным насилием над детьми) в даркнете. Чаще всего жертвами становятся девочки, а реальное порно с помощью ИИ подделывают так, что в нём появляются лица детей. В целом эти приложения подогрели и травлю, и масштаб сексуальных злоупотреблений в Сети.