Только вперед: Deezer о музыке, созданной ИИ

Исполнительный директор Deezer заявил, что «обратной дороги нет» в отношении музыки, созданной ИИ: «Индустрии будет необходимо принять решение».

В пятницу, 20 июня, французский сервис потокового аудио Deezer запустил новый инструмент для борьбы с тем, что они называют «спамом из песен, созданных ИИ». Теперь сервис будет маркировать каждую песню, которою он распознает как полностью сгенерированную искусственным интеллеком, чтобы пользователи были в курсе, когда находят такой контент на платформе.

Инструмент маркировки является последним в серии заявлений от Deezer о том, как rapidly растет количество музыки, созданной ИИ, и как это наносит вред. По данным Deezer, до 70% потоков на полностью ИИ-сгенерированных треках считаются мошенническими или искусственными.

Deezer начал бить в колокол ещё в январе, когда сообщило, что их собственный инструмент обнаружения ИИ выявил, что 10% песен, загружаемых на Deezer ежедневно, были полностью сгенерированы ИИ. Хотя компания не против того, чтобы люди использовали ИИ в своём творческом процессе, полностью ИИ-сгенерированные песни часто используются для спама платформы или отнимания роялти у человеческих исполнителей. Чтобы противостоять этому, Deezer начал удалять полностью ИИ-сгенерированные песни из их рекомендаций.

Затем, в апреле, Deezer заявил, что цифра почти удвоилась, утверждая, что 18% ежедневных загрузок стали полностью ИИ-сгенерированными. В новом интервью с Billboard директор по исследованиям Deezer Мануэль Муссалам связывает этот рост с двумя ключевыми причинами: дальнейшим внедрением инструментов музыки ИИ, таких как Suno и Udio, и, просто, тем фактом, что «наши данные стали лучше».

«Часть того, что мы считали ИИ-сгенерированным в январе, мы не были полностью уверены, так что мы были очень осторожны в цифрах, которые мы предоставляли. Мы не хотели ошибочно идентифицировать», - объясняет Муссалам. «Я думаю, цифра 18% [на самом деле] намного более точная и ближе к тому, что мы на самом деле видели с января, но тем не менее, эта цифра продолжает расти».

Хотя большинство его конкурентов ещё не заняли публичную позицию по поводу музыки, созданной ИИ, или не создали никаких правил, чтобы решить возникающие проблемы, Deezer считает, что игнорировать происходящее невозможно. В интервью с Billboard главный директор по инновациям Ореольен Эрро и Муссалам объясняют, что время бежит: «В какой-то момент индустрия должна будет принять решение по этому поводу, потому что музыка ИИ будет существовать навсегда. Обратного пути нет».

Вы оба уже ранее говорили, что ваша команда проводила много бесед с музыкальным бизнесом о правилах, которые вы разрабатывали в Deezer, прежде чем вы их запустили. У вас были такие же беседы с компаниями ИИ, такими как Suno или Udio?

Эрро: Официально нет. Мы в контакте с некоторыми исследователями, которые там работают, потому что мы ходим на одни и те же конференции, но нет, мы не связывались. На самом деле, я не думаю, что их очень волнует, можем ли мы обнаружить их продукцию, поскольку проблема возникает с нашей стороны, потому что люди массово используют эти инструменты для спама нашего каталога.

Начинаете ли вы видеть паттерны того, как люди используют контент ИИ для спама? Например, создают ли большинство пользователей множественные аккаунты и прыгают между ними, чтобы распеределить свои массовые загрузки? Искусственно ли они увеличивают количество потоков?

Эрро: Все, что я могу сказать, это то, что они креативны.

Муссалам: Ну, не креативны в музыкальном плане, но в плане спама? Очень креативны.

Эрро: Причина, почему мы начали беспокоиться о музыке, созданной ИИ, заключается в том, что она очень схожа с поведением мошенников, которое мы уже наблюдали. Вы создаете много аккаунтов. Вы ежедневно публикуете огромное количество альбомов.

Муссалам: Я думаю, единственным новым явлением, которое мы видим в музыке ИИ, является то, что с её помощью также можно подделывать. Вы берёте одного исполнителя, который хорошо стримится, и пытаетесь создать что-то, что напоминает стиль этого исполнителя. Это определенно вызывает тревогу с нашей стороны.

Эрро: Они даже пытаются размещать эти песни на страницах официальных исполнителей. Именно поэтому так важно объединять наши усилия в ИИ с нашей системой обнаружения мошенничества, чтобы избежать такого поведения.

Вернёмся к тому моменту, когда вы впервые узнали, сколько контента, созданного ИИ, загружается на Deezer, и почему вы решили посвятить так много времени и ресурсов внутри компании для работы над этой проблемой.

Муссалам: Я думаю, это восходит к 2022 году, когда были выпущены первые крупные открытые генеративные модели в научном сообществе. Это было до того, как появились коммерческие модели, и у нас была возможность поиграть с этим сами. Со временем мы начали замечать динамику с этими моделями. Скоро они могли генерировать полные песни, что несколько лет назад было невозможно.

Разумеется, когда Suno был запущен, это было огромное событие. Первое, что мы сделали, это зашли на платформу и скачали несколько песен, которые люди там делились, а затем с помощью отпечатков мы смогли проверить, были ли люди, которые также распространяли эти песни ИИ в нашем каталоге. Мы вскоре выяснили, что да, они это делали. В то время мы даже не подозревали о количестве, но знали, что это происходит. Для нас было очень важно количественно оценить этот феномен, и это привело нас к собственным исследованиям.

Это заняло несколько месяцев, и мы наконец нашли систему для идентификации масштаба. В конечном итоге мы почувствовали достаточную уверенность, чтобы поделиться об этой цифрой в январе. Нам пришлось многократно проверять, чтобы убедиться, что у нас не слишком много ложных положительных результатов. Мы знали, что это будет огромной проблемой. Мы предупредили общественность, только когда были уверены.

Эрро: Сегодня мы говорим о обнаружении ИИ, но мы видели то же самое поведение спама и искусственного стриминга с другими видами контента на Deezer, такими как песни общественного достояния, шум и звуки дождя. Таким образом, мы разрабатываем инструменты для понимания того, что находится на нашей платформе, еще до появления ИИ. Мы занимаемся этим уже 12 лет, поэтому можем быстро реагировать на новые разработки.

Я часто слышу смешанные мнения о продуктах, которые сейчас находятся на рынке, которые утверждают, что могут обнаружить музыку, созданную ИИ, — и, что еще более противоречиво, могут проследить музыку, созданную ИИ, обратно к песням, которые вдохновили её из обучающих данных. Я предполагаю, что у вас были люди, которые сомневались в том, насколько хороши ваши инструменты. Как вы убеждаете их в их точности?

Эрро: Мы сделали много презентаций для музыкальной индустрии, показывая наши результаты. И мы также опубликовали статью в научном сообществе, так что она доступна для всех.

Муссалам: В первой статье, которую мы опубликовали, мы утверждали, что эту проблему нельзя решить полностью с помощью нашего инструмента. Если честно, мы больше всего сомневались в собственных технологиях, потому что мы сделали эту работу — мы знаем, насколько она ограничена. Это все еще открытая проблема, и обойти наш детектор по-прежнему просто.

Эрро: Поэтому мы делимся данными. Мы хотим открыть дискуссию. Мы объяснили индустрии, что не можем решить все, но можем решить часть проблемы с помощью этих инструментов.

Насколько реалистично указывать авторство музыки, созданной ИИ, в данный момент?

Муссалам: Невозможно знать, сможем ли мы это делать. Это действительно быстро развивающаяся и волнующая область, так что мы хотим в неё погрузиться. Но это займет годы, вероятно. Единственное, в чем я уверен, так это в том, что сейчас нет ничего на полках, что могло бы это сделать удовлетворительным образом.

Я слышу дебаты в мире музыкальных технологий о том, станет ли этот поток музыки, созданной ИИ, серьезным бременем для стриминговых сервисов с точки зрения серверов и места хранения. Кто-то из соперников стриминговой музыки сказал мне, что не считает это реальной проблемой. Другие верят, что это так. Каково ваше мнение?

Эрро: Это серьезная тема для нас, и мы уже удаляли некоторый контент, который занимал слишком много места — потому что это не только экономическая проблема, но и экологическая. Нужно ли нам хранить весь этот контент, чтобы у нас у всех была одинаковая библиотека и у всех был дубликат тех же вещей? Это действительно вопрос, который стоит обсудить, и мы уже обсудили удаление некоторого контента, особенно поскольку много контента совсем не слушается.

Кажется, это проблема, с которой стриминговые сервисы должны будут столкнуться.

Эрро: Не только с музыкой, я имею в виду, есть все виды контента, созданного ИИ — изображения, аудио, видео. Это все.

Муссалам: Аудио на самом деле не так уж много места, чтобы хранить по сравнению с фильмами или изображениями.

Я всегда задаюсь вопросом, интересуют ли молодые поколения, откуда пришла их музыка — из модели ИИ или от человека. Нам трудно с этим смириться, но если эти дети выращены на контенте ИИ, возможно, их прослушивание отличается от нашего. Учитывали ли вы это при решении того, как вы хотите рассматривать музыку ИИ на Deezer?

Муссалам: Это удивительный вопрос для исследования, но у него пока нет ответа. Я думаю, много людей задаются вопросом, наблюдаем ли мы сдвиг в отношении того, как люди относятся к музыке. Это также поднимает вопрос о том, почему людям любима музыка изначально? Не нужно ли иметь человеческие отношения, прямо или косвенно, с музыкой, чтобы привязать смысл к этому? Я полагаю, что многие люди в этом нуждаются. Но я не уверен, что люди собираются делать в будущем.