AI против AI: знаменитости разыгрывают кровавую драму вокруг Sora

Всего несколько недель прошло с того момента, как компания OpenAI представила свою новую модель генерации видео — Sora 2. Новинка позволяет создавать гиперреалистичные видеоролики, где в кадре спокойно появляются как вымышленные персонажи, так и реальные публичные фигуры. И, ожидаемо, это вызвало волну скандалов из-за недопустимых (и часто весьма омерзительных) роликов с участием знаменитых людей.

Уже утром 17 октября OpenAI вместе с наследниками Мартина Лютера Кинга выступили с заявлением: Sora приостановила возможность генерировать образ Кинга после того, как пользователей вдруг понесло делать «неуважительные изображения» борца за права. Исключительно из жалости к чувствам общественности (и, конечно, по требованию его наследников), OpenAI усиливает проверки по историческим личностям. Можно только догадываться, какую мерзость увидело руководство, прежде чем приняло меры.

OpenAI по-прежнему настаивает: якобы свобода слова — это святое, и исторические фигуры должны быть доступны для публичного творчества. Да, мы видели видео, где искусственный Кинг мечтает не о равноправии, а чтобы «чёртов светильник» перестал мигать над его кроватью. Вершина прогресса, нечего сказать. Представители OpenAI говорят: «Если вы не хотите видеть своё или чужое изображение в Sora, подайте нам заявочку». Такое себе право: чтобы не оказаться в цифровом фарше, придётся официально просить компанию вычеркнуть тебя из списка допустимых. При этом, разумеется, никто не гарантирует, что твоя цифровая копия ещё не обучила чью-то нейросеть.

Но пока OpenAI придумывает удобные отговорки для пиара, к делу подключаются «силы добра». Управляющие авторскими правами звёзд типа Бёрта Рейнолдса или Розы Паркс решили, что если противник хитёр как дьявол — то и защищаться надо по-диавольски умно.

В бой вступает новая парочка: агентство CMG Worldwide и стартап Loti AI. Последние используют собственные искусственные интеллекты, чтобы по всему интернету отлавливать и удалять фейковые ролики, созданные Sora и подобными ей. Лоти обещает: в 95% случаев всё вредоносное будет обнаружено и стерто со скоростью электровеника — максимум за сутки.

Пока услугой пользуются только некоторые клиенты CMG, включая покойных: Бёрта Рейнолдса, Кристофера Рива, Джинджер Роджерс, Джуди Гарленд, Джо Луиса, Альберта Эйнштейна и других — даже Наташу на Луне (вернее, астронавта Нила Армстронга) стерегут виртуальные стражи. Лоти работает по принципу: сканер лиц и голосов быстро вычисляет — подделка или оригинал, и включает красную кнопку.

Основатель Loti AI, Лука Арригони, едко замечает: сам использую ИИ, чтобы ловить ИИ. Парадокс, но теперь иначе никак. Стартап не собирает огромный набор персональных данных — достаточно отпечатка голоса и лица. Автоматизация приближается к идеалу: ловить этот цифровой дурдом проще простого, утверждает Арригони. Специалисты конкурентов, занимавшиеся поиском дипфейков, уже сдаются — Sora слишком ловко подделывает видео. Но Loti держится: у них своё искусственное чутьё.

Опыт оказался востребованным — голливудские агентства выстраиваются в очередь за защитой своих умерших и живых подопечных. Переговоры идут даже с такими монстрами, как Google и OpenAI. Правда, Арригони уверен: политика, позволяющая отказываться задним числом (opt-out), не решает проблему — только приглашение к нарушителям. Должна быть система согласия (opt-in): если хочешь участвовать — подпиши согласие, а если нет — тебя просто не будет в игре. И тогда, может, очередной цифровой Кинг не начнет мечтать о выключенном светильнике.