Grok: миллионы скандальных изображений за 11 дней

ИИ Grok, разработанный компанией xAI, за 11 дней сгенерировал около 3 миллионов сексуализированных изображений, среди которых примерно 23 тысячи были с изображениями детей. Такие данные опубликовал британский некоммерческий Центр по противодействию цифровой ненависти (CCDH), который изучил случайную выборку из 20 тысяч изображений Grok, созданных за период с 29 декабря по 9 января. Полученные цифры были экстраполированы на все 4,6 миллиона изображений, которые ИИ сгенерировал за указанный период. Исследователи подсчитали: примерно 190 сексуализированных картинок каждую минуту, а изображение с детьми появлялось каждые 41 секунду.

Под сексуализированными CCDH имел в виду фотографии, на которых человек изображён в обнажённых или вызывающих сексуальных ситуациях, позах, или одежде (нижнее бельё, купальники и т.п.), а также изображения, содержащие сексуальные жидкости. При этом исследование не различало, основывались ли изображения на реальных людях или были «нарисованы» по текстовому запросу.

Для выявления таких картинок CCDH использовал специальный ИИ-алгоритм, что требует определённой осторожности при оценке данных — процент ошибок возможен, хотя, по заверениям исследователей, сторонние аналитические сервисы X надёжны, ведь используют API платформы.

После публикации первых жалоб, 9 января компания xAI ограничила возможность редактирования существующих изображений Grok только для платных пользователей, что проблему не решило, а лишь превратило её в платную функцию. Через 5 дней платформа X ограничила возможность Grok "раздевать" реальные фото людей. Но эти меры касались только X: отдельное приложение Grok продолжает генерировать такие изображения.

Несмотря на то, что приложения доступны в App Store и Google Play, где в правилах подобное строго запрещено, ни Apple с Тимом Куком, ни Google с Сундаром Пичаи не удалили Grok из своих магазинов, хотя подобные приложения других разработчиков там блокируют. Более того, компании никак не отреагировали на открытое письмо от 28 женских и прогрессивных общественных организаций, в котором те призывали принять меры, и проигнорировали журналистские запросы.

Среди «героев» ИИ — публичные деятели: от вице-премьера Швеции Эббы Буш в бикини с белым пятном на голове, до Тейлор Свифт, Селены Гомес, Билли Айлиш, Арианы Гранде и других поп-звезд, а также политиков вроде Камалы Харрис. Были выявлены и шокирующие примеры генерации из фотографий детей: ИИ "переодел" девочку на утреннем селфи в бикини, изобразил шестерых девочек в микробикини. CCDH утверждает: по состоянию на 15 января 29% детских сексуализированных картинок всё ещё были доступны на X, а даже удалённые публикации оставались по прямым ссылкам.

Методология исследования подробно описана в отчёте CCDH. Apple и Google ответы так и не предоставили.