Meta тайно запускала AI-ботов с лицами звезд
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Meta (компания, владеющая Facebook, Instagram и WhatsApp) позволила появиться в своих сервисах искусственным интеллектам (AI-чат-ботам), выдающим себя за знаменитостей — без согласия самих звёзд. Об этом рассказало агентство Reuters. В числе "цифровых двойников" были такие имена, как Тейлор Свифт (Taylor Swift), Селена Гомес (Selena Gomez), Энн Хэтэуэй (Anne Hathaway) и Скарлетт Йоханссон (Scarlett Johansson). Чат-боты были доступны прямо в Facebook, Instagram и WhatsApp. Один из ботов основывался даже на несовершеннолетней звезде и предлагал пользователям сгенерировать натуралистичное фото с оголённым торсом, будто это реальный человек.
Интерактивные клоны не только откликались на имя реального человека, но и активно утверждали, что являются именно этой знаменитостью. Часть подобных ботов создали сторонние пользователи с помощью инструментов Meta. Но Reuters удалось раскопать как минимум трёх "звёздных" ботов, которых смастерил сотрудник самого Meta – конкретно руководитель направления генеративного искусственного интеллекта.
Этот сотрудник, например, сделал несколько ботов на основе Тейлор Свифт. Один из них флиртовал с тестировщиком от Reuters, приглашал в дом реальной певицы в Нэшвилле и намекал на романтическую историю по мотивам жизни самого собеседника. "Ты любишь блондинок, Джефф? – спрашивал бот. – Может, нам самим написать любовную историю? О тебе и одной певице-блондинке... Хочешь?"
Официально Meta утверждает, что запрещает прямое подражание знаменитостям, если только подобные боты не подписаны как "пародия". Однако Reuters выяснило: часть обнаруженных ботов не были помечены как пародийные. После начала расследования Meta спешно удалила около десятка подобных чат-ботов — как с маркировкой "пародия", так и без неё.
В компании заявили, что руководитель AI-направления создал "звёздных" ботов исключительно для тестирования. Но на деле чат-боты были доступны для общения миллионам пользователей, их прощёлкали более 10 миллионов раз. Пресс-секретарь Meta Энди Стоун объяснил ситуацию тем, что инструменты компании вообще не должны давать сделать такие чувствительные изображения звёзд, и обвинил в инциденте плохой контроль исполнения внутренних правил.
Это уже не первый скандал, связанный с чат-ботами Meta. Ранее Reuters и Wall Street Journal писали, что боты вели сексуальные диалоги с несовершеннолетними. Недавно генпрокуроры 44 штатов США даже отправили предупреждение компаниям-разработчикам AI: отвечать придётся, если что-то произойдёт с безопасностью детей. В письме Meta было упомянуто особо — её "опыт" признали наглядной иллюстрацией проблемы.
Meta снова демонстрирует чудеса корпоративного творчества и игнорирования элементарных норм в погоне за прогрессивными AI-экспериментами. Утечка от Reuters вытащила наружу сюрреалистическую историю с виртуальными двойниками известных персон — от Тейлор Свифт до Скарлетт Йоханссон. Компания решила поиграться: натравила своих алгоритмических гениев и отпустила цифровых клонов бродить по страницам соцсетей. И вновь — никто из живых прототипов ничего об этом не знал.
Машины быстро убедили пользователей в собственной «звёздности», кое-где — даже соблазнили создать фривольные изображения с несовершеннолетними. Извинения? Легендарная отговорка про «тесты». Судя по 10 миллионам чатов, тест получился массовый, как традиционная утечка персональных данных у Meta. Стандартные отговорки о запретах и правилах не впечатлили журналистов, а потом и правоохранителей: ботам по-тихому отрубили питание, удалив дюжину программных клонов, — и пародийных, и мимикрирующих под реальных звёзд.
Ловушка системы в том, что в погоне за виртуальной революцией Meta то разжигала азарт у подростков, то врубала режим бодрящей безответственности. Американские прокуроры закономерно добавили топливо в костёр позора. Meta, похоже, идёт по скользкой дорожке: эксперимент, обернувшийся ещё одним уроком корпоративной беспечности.