Apple и Google заставляют бороться с «раздевающими» приложениями

Городской прокурор Сан-Франциско обязал крупные технологические компании Apple и Google принять меры против приложений, которые используют искусственный интеллект для создания изображений, где люди будто бы раздеты. Такие приложения получили прозвище «раздевающие» (от английского слова "nudify") и позволяют на основе обычных фотографий генерировать фальшивые обнажённые снимки. Прокурор указал, что подобные сервисы нарушают приватность, наносят моральный ущерб и могут использоваться для травли и шантажа.

В письме, направленном компаниям, содержится требование удалить эти приложения из магазинов App Store и Google Play. Также Apple и Google обязали объяснить свои действия по борьбе с подобным программным обеспечением. Прокурор отметил, что такие приложения особенно опасны для несовершеннолетних, потому что их изображения могут попасть в сеть и привести к онлайн-насилию.

Дело вызвало широкий резонанс, потому что количество подобных сервисов в интернете резко выросло, а технологические гиганты долго игнорировали проблему. Эксперты предупреждают, что пока такие приложения доступны в официальных магазинах, риск их массового использования остаётся высоким.

Сейчас компании изучают обращения прокуратуры и готовят публичную позицию. Многие активисты считают, что одного удаления приложений мало: необходимы дополнительные меры — например, слежение за распространением похожего контента, введение системы контроля публикаций и повышение ответственности разработчиков таких приложений.