Дети, deepfake и App Store

Ранее в этом году выяснилось, что Apple и Google предлагали в своих магазинах так называемые «nudify»-приложения — программы, которые при помощи искусственного интеллекта «раздевают» реальных людей или вставляют их лица в откровенные видеоролики. Формально такие приложения запрещены правилами обеих компаний. Но, как показывает новое исследование Tech Transparency Project (TTP), прошло почти три месяца, а ситуация не просто не улучшилась — она стала хуже. Эти приложения по‑прежнему доступны и даже активно рекламируются в App Store и Google Play. Причём некоторые из них получили отметку «E» — Everyone, то есть «для всех». Это означает, что их спокойно могли скачивать дети.

Поиск по словам «nudify», «undress» и аналогичным запросам приводит к множеству программ, позволяющих создавать фальшивые интимные изображения. В отчёте TTP говорится, что площадки фактически «становятся ключевыми участниками распространения инструментов ИИ, превращающих реальных людей в сексуализированные изображения». Более того, сами магазины приложений демонстрировали рекламные баннеры, продвигающие аналогичные утилиты.

Исследователи нашли 18 таких приложений в App Store и 20 в Google Play. Некоторые открыто использовали сексуализированные изображения в продвижении, другие не выглядели опасными, но всё равно могли создавать deepfake‑контент. По данным отчёта, совокупный доход этих программ уже достиг примерно 122 миллионов долларов, а суммарное количество загрузок перевалило за 483 миллиона.

Директор TTP Кэти Пол в разговоре с Bloomberg отметила, что проблема не только в слабой проверке со стороны компаний: «Они не просто продолжают одобрять эти приложения и зарабатывать на них. Они фактически направляют пользователей к ним». Apple заявила Bloomberg, что удалила 15 приложений, указанных исследователями. Google сообщил, что приостановил работу нескольких таких программ.

Одно из упомянутых приложений — Video Face Swap AI: DeepFace — рекламировало себя через пример с заменой лица одной актрисы на тело другой, позволяя вставить лицо любого человека на тела полуобнажённых женщин. При этом приложение было отмечено как «E — для всех».

Рост популярности «раздевающих» и deepfake‑приложений уже привёл к тому, что некоторые государства начали предлагать законы, направленные против их использования. Детский омбудсмен Великобритании потребовал полного запрета ИИ‑утилит, создающих откровенные изображения детей. В США и ряде других стран уже предложены или приняты законы, ограничивающие распространение сексуально откровенных deepfake‑материалов. Генеральный прокурор Калифорнии даже направил компании X Илона Маска требование прекратить распространение откровенных deepfake‑изображений, созданных системой Grok.

Позднее Google предоставил комментарий, сообщив, что Google Play не допускает размещения приложений с сексуальным контентом, расследует все нарушения и уже приостановил работу ряда приложений из отчёта TTP.