Pinterest и его борьба с AI-содроганиями

Pinterest наконец-то решил что-то сделать с нашествием искусственного интеллекта. Теперь пользователям станет проще выявлять и избегать контента, сгенерированного AI, на этой платформе. Компания запускает новые функции, которые будут автоматически помечать изображения, определяемые как созданные или отредактированные с помощью генеративного искусственного интеллекта, и позволят пользователям видеть меньше таких изображений при поиске схожих тем.
"С столкновением с AI-содержимым на Pinterest мы даем возможность нашим пользователям делать более осознанный выбор в отношении контента, который они видят", — заявил Мэтт Мадригал, технический директор компании. "Контент Gen AI на Pinterest должен улучшать возможность пользователей открывать и действовать по своему вдохновению, и мы намеренно подходим к этому новому ландшафту в продуманной манере, которая приносит пользу всем пользователям Pinterest."
"Функция новых меток Gen AI" Pinterest запускается по всему миру и, как ожидается, поможет предотвратить обман пользователей. Метки будут отображаться в виде штампа "AI изменено" в нижнем левом углу при нажатии на изображение в крупном масштабе. Pinterest определяет, было ли изображение создано или отредактировано с помощью AI, анализируя его метаданные — предположительно, по невидимым маркерам, таким как SynthID от Google или Content Credentials от Adobe.
Pinterest также утверждает, что разработал "классификаторы, которые автоматически обнаруживают контент gen AI", даже если изображение не имеет маркеров метаданных. Поиск AI-флагов может быть удачным или неудачным, но Pinterest позволяет пользователям оспаривать, если они считают, что их пины были неверно помечены.
Утверждать, что я в восторге, было бы преуменьшением. Pinterest столкнулся с обширной критикой со стороны пользователей по поводу того, что изображения AI доминируют на платформе, что делает его использование для чего-либо практичного, кроме простого создания коллажей, крайне затруднительным.
Артистам сложно найти точные реальные справочные материалы, например, и есть высокая вероятность, что одежда, аксессуары или мебель, появляющиеся на пинах, не могут быть куплены, поскольку они на самом деле не существуют. Даже будучи поставщиком "вдохновения", это может быть проблематично, потому что все, от причесок до концепций интерьеров, сгенерированных AI — которые могут быть обманчиво реалистичными — могут быть невозможны в реальной жизни.
Экспериментальная функция также будет запущена "скоро", которая позволит пользователям Pinterest фильтровать некоторые изображения AI для определенных категорий, которые "склонны к модификации или генерации AI", в соответствии с Pinterest, таких как красота и искусство. Опция "видеть меньше" будет доступна в меню с тремя точками в нижнем правом углу пина. Pinterest утверждает, что это даст сигнал их системам рекомендовать меньше этого контента и в конечном итоге расширится на большее количество категорий пинов, но неясно, насколько много AI-фильтр сможет убрать. Я могу только надеяться, что это в конце концов будет включать опцию "все это".