Apple и Google наживаются на «ню-голограммах»?

Исследование, проведённое онлайн-организацией Tech Transparency Project (TTP), выявило тревожную тенденцию: в цифровых магазинах Apple App Store и Google Play Store свободно распространяются приложения, использующие искусственный интеллект для создания обнажённых и сексуализированных фотографий людей без их согласия. Такие программы, называемые «nudify»-приложениями, прямо нарушают правила обеих платформ.

В отчёте говорится, что в магазине Google Play нашли 55 подобных программ, а в App Store – 47. Примечательно, что обе компании продолжают поддерживать доступ к xAI Grok – одному из самых известных в мире ИИ-инструментов по созданию deepfake-изображений.

По словам исполнительного директора TTP Мишель Купперсмит, приложения позволяют показывать людей в обнажённом или полуобнажённом виде, и это создаёт огромное пространство для злоупотреблений. Причём речь идёт о миллионах – общее количество скачиваний таких приложений превышает 700 миллионов, а общий доход от них – более 117 миллионов долларов. Apple и Google получают свою немалую долю прибыли от этой индустрии.

Особенно пугает, что некоторые программы в этих магазинах были одобрены для детей: Apple разрешила использовать их детям с четырёх или девяти лет, а Google – с тринадцати. Всё это вопреки формальным правилам, которые вроде бы запрещают подобные развлечения даже для взрослых.

Среди приложений, указанных в расследовании, есть, например, DreamFace, которое разрешено для пользователей от 13 лет в Google и от 9 лет в Apple. После публикации отчёта Apple заявила, что удалила 24 приложения, но это менее половины выявленных TTP. Представитель Google сообщил, что компания приостановила действие некоторых программ из отчёта, но не уточнил, сколько именно приложений исчезло из магазина.

Это резонансное расследование последовало за новостью о том, что чат-бот Grok от Илона Маска сгенерировал около трёх миллионов сексуализированных изображений, из которых 22 тысячи касались несовершеннолетних. Представители компании не дали внятных комментариев, ограничившись автоматическими отписками для журналистов и репликой Маска о том, что он не знает ни об одном сгенерированном «нюдсе» ребёнка. Мол, таких случаев – ноль.

Аккаунт службы безопасности X (бывший Twitter), где принадлежит чат-бот Grok, сообщил, что любой пользователь, создающий с помощью ИИ нелегальный контент, будет наказан так же, как если бы он выложил запрещённые материалы. Сам бот Grok, к слову, отличился большей честностью, чем его создатели: он публично извинился за создание эротизированных изображений несовершеннолетних.