ИИ научился подделывать голоса: вы не отличите

Технологии искусственного интеллекта для создания голосовых подделок продвинулись так далеко, что теперь даже специалисты с трудом могут отличить искусственно сгенерированный голос от настоящего. Долгое время считалось, что «искусственный» голос всегда можно узнать по определённой неестественности звучания, но теперь это заблуждение развеяно результатами нового исследования, проведённого учёными из Queen Mary University of London (Великобритания).

В ходе эксперимента участников попросили сравнить реальные человеческие голоса с двумя вариантами синтетической речи: голосами-клонами (копирующими конкретного человека) и голосами, созданными нейросетями из языковых моделей (не похожими на кого-то конкретного). Итог — участники эксперимента не смогли уверенно распознать, кто есть кто. Другими словами, технологии дошли до такого уровня, что «машинный» голос может быть фактически неотличим от человеческого.

Любопытно, что исследование на этом не остановилось: ученым было важно выяснить не только сам факт распознавания, но и то, как воспринимаются эти голоса. Оказалось, что люди оценивали качестве ИИ-голосов как более доминантные, а иногда — даже более надёжные и вызывающие доверие, чем реальные человеческие голоса.

Старший преподаватель кафедры психологии Queen Mary University of London д-р Надин Лаван отмечает, что создание подобных голосов сейчас требует минимум усилий: нужно всего несколько минут записей реального голоса, минимальные технические навыки — и практически никакие затраты. По словам д-ра Лаван, лёгкость, с которой сегодня можно создавать голосовые копии, говорит о гигантском скачке технологий искусственного голоса всего за несколько лет.

Конечно, у массовой доступности таких инструментов есть плюсы: они открывают новые возможности в образовании, коммуникации (в том числе для людей с нарушениями речи), помогают повысить доступность информации. Но, как и в случае с ИИ-текстами, неизбежно встаёт вопрос: а кто теперь владеет вашим голосом? Можно ли защитить свою личность от копирования без разрешения? Если софт способен воссоздать ваш голос по короткому отрывку, риск злоупотреблений становится слишком реален, чтобы его игнорировать.

Сегодня у технологий голосового ИИ невероятный потенциал, но и огромные риски — от фейковых звонков до кражи личности. Пока одни радуются развитию, специалисты ломают головы, как бы этим развитием не воспользовались мошенники. Но самое тревожное — это не вопрос будущего. На дворе уже 2024 год. Технология здесь. Этические, юридические и социальные последствия на пороге каждого. Привыкайте: робот может заговорить с вами голосом вашей бабушки — и вы не поймёте подвоха.