Твоя цифровая копия теперь рекламирует косметику — без тебя

Что будет, если ваш цифровой двойник начинает оказывать влияние без вашего участия? Журналистка и редактор Bryce Gruber листала TikTok, когда увидела на своей странице рекламу автозагара. Женщина, наносящая средство на тело, показалась ей крайне знакомой — да это же она сама. Вернее, почти она.

Gruber рассказала своим 193 тысячам подписчиков на TikTok: «Это очень страшно и странно. Это вроде бы я, но по сути — робот-версия меня». На видео ее искусственный двойник с энтузиазмом рекламирует автозагар, утверждая: «Этот автозагар изменил мой уход за собой» — хотя сама Gruber признает, что впервые видит этот продукт и к бренду никакого отношения не имеет.

Это столкновение с собственной цифровой копией побудило Gruber покопаться в настройках TikTok. Там она выяснила: чужой доступ к ее «AI Self» был открыт. TikTok через функцию AI Cast позволяет создать цифрового двойника — аватар с лицом и голосом пользователя на базе его собственного видео и аудиозаписей. В отличие от стандартных дипфейков (глубокая подделка, основанная на уже выложенных видео), для создания такого аватара пользователь должен сам пройти специальную процедуру записи — на камеру с разных ракурсов и с проговариванием цифр для верификации.

По словам представителя TikTok, человеку приходит уведомление, если кто-то использует его AI Self. Но Gruber обнаружила, что у многих по умолчанию публичен доступ к такой копии — любой может добавить её аватар в видео. Gruber советует поставить настройки на «Только я», иначе «вы легко можете стать рекламой автозагара».

В то же время маркетологи и платформы все чаще используют таких цифровых двойников для рекламы. TikTok развивает сервис Symphony — AI-агенты, которые создают ролики для рекламодателей при помощи цифровых аватаров.

Профессор Калифорнийского университета в Беркли Хани Фарид отмечает: для создания видео-аватара достаточно 20 секунд записи голоса и одной фотографии. Этого хватает, чтобы AI начал говорить за вас что угодно. Gruber уже пытались где-то «трудоустроить»: китайский производитель джинсов использовал её лицо, голос и даже фон — продал более 1000 пар брюк. Гитаристка Sophie Burrell нашла свой точный цифровой клон в TikTok, а музыкант Rhett Shull — почти полные копии старых видео на чужом AI-канале.

Рекламная индустрия не осталась в стороне: в 2023-м AI-двойники Ходы Котб и Илона Маска появились в фейковых роликах о похудении и криптовалютах. Федеральная торговая комиссия США (FTC) формально запрещает фальшивые отзывы и рекламное использование чужого образа без согласия.

TikTok недавно начал тестировать сервис, определяющий пользователей, которые используют чужой образ — загружаешь фото, подтверждаешь личность, система проверяет, тебя ли копируют. Подобные опции теперь срочно внедряют Meta (владелец Facebook и Instagram) — правда, сначала скандально активировав функцию по умолчанию, а через три дня — удалив её после потока негодования.

Вопрос остался прежний: если ваш AI-двойник внезапно начинает пить чужой кофе, примерять джинсы или рекламировать чудо-автозагар, где кончается ваше «я»? Gruber советует быть крайне внимательными с цифровыми копиями: «Это может случиться с каждым».