Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
«Это на 100% был её голос» — но жены рядом даже не было. Мошенники научились настолько убедительно копировать человеческую речь с помощью искусственного интеллекта и голосовых фильтров, что знакомый голос в телефонной трубке больше нельзя считать доказательством личности.
Один пользователь X рассказал, что получил звонок якобы от жены. Она сообщила, что забыла кошелёк и просит данные банковской карты, чтобы оплатить бензин. Однако настоящая жена находилась дома, а ездила на Tesla — версия с внезапной заправкой уже выглядела нелепо. Голос звучал почти идеально, хотя собеседник заметил странный ритм и немного неестественные паузы.
Автор предположил, что это мог быть голосовой дипфейк — сгенерированная или изменённая запись голоса. Он поддерживал разговор, пытаясь понять, что происходит, но записать звонок не догадался. Точно установить, применялся ли генеративный ИИ или фильтр, работающий в реальном времени, невозможно.
Похожие истории появились на Reddit. В одном случае мошенники позвонили тёте и бабушке, представились адвокатом и заявили, что родственник находится в тюрьме и срочно нужны деньги на залог.
Исследование 2026 года Evaluating AI Models' Capability to Automate Voice Phishing Attacks, подготовленное Fred Heiding и коллегами, охватило 4100 взрослых жителей США. До 36,1% участников заявили, что могли бы выполнить просьбу в мошенническом сценарии «родственник в беде» или не были уверены, как поступили бы.
Важно: это не доля людей, которых реально обманули, а самооценка готовности поддаться атаке. Учёные называют показатель уязвимостью, а не наблюдаемым фактом передачи денег. Убедительность обращения оказалась важнее того, насколько естественно звучал голос. Даже люди, регулярно использующие ИИ, не лучше распознавали синтетическую речь, чем те, кто почти не сталкивался с такими технологиями.
Способ защиты прост, хотя человечество традиционно предпочитает сначала потерять деньги, а потом изучить инструкции. Заранее придумайте семейное кодовое слово — несложное, но неизвестное посторонним и не опубликованное в интернете. Если близкий неожиданно звонит и требует деньги, завершите разговор и перезвоните ему по сохранённому номеру.
В 2024 году руководитель Ferrari получил сообщения, а затем звонок от человека, который выдавал себя за генерального директора компании Benedetto Vigna. Руководитель заподозрил неладное и попросил назвать книгу, которую настоящий Вigna недавно рекомендовал ему. Ответа не последовало, и схема развалилась.
Семейный пароль работает по тому же принципу: он проверяет не тембр, а знание личного факта. Эксперт Malwarebytes Mark Beare предупреждает, что главный удар ИИ приходится не по устройствам, а по доверию между людьми. По данным опроса Malwarebytes, опубликованного в июне, 85% респондентов считают, что отличить мошенничество от настоящего сообщения трудно; годом ранее так думали 66%. Ещё 88% заявили, что онлайн становится сложнее понять, какой контент действительно создан человеком и отражает реальность.
Проблема касается не только звонков: сгенерированные изображения и дипфейк-видео тоже подрывают старое правило «сам увидел — значит, правда». В 2026 году знакомый голос уже не подтверждает личность. Сначала кодовое слово, затем обратный звонок — и только потом любые решения о деньгах.
Статья предупреждает о стремительном развитии мошенничества с клонированием человеческого голоса. С помощью генеративного искусственного интеллекта и голосовых фильтров злоумышленники могут убедительно выдавать себя за родственников, поэтому узнавание голоса больше не подтверждает личность собеседника.
Приведён пример пользователя X, которому позвонила якобы жена и попросила данные банковской карты, объяснив просьбу забытым кошельком и необходимостью оплатить бензин. Настоящая жена находилась дома, а её автомобиль — Tesla, однако поддельный голос звучал почти так же, как настоящий. Неясно, использовал ли мошенник генеративный ИИ или фильтр в реальном времени. Похожие случаи обсуждались на Reddit: злоумышленники звонили родственникам и представлялись адвокатами, утверждая, что член семьи находится в тюрьме и ему нужны деньги на залог.
Исследование 2026 года Evaluating AI Models' Capability to Automate Voice Phishing Attacks, проведённое Fred Heiding и коллегами среди 4100 взрослых в США, показало: до 36,1% участников сообщили, что могли бы выполнить просьбу в сценарии «родственник в беде» или не уверены, как поступили бы. Этот показатель отражает самооценку готовности поддаться атаке, а не число людей, реально передавших деньги. Исследователи установили, что на убедительность сильнее влияет общий характер разговора, чем абсолютная естественность голоса. Люди, регулярно использующие ИИ, не оказались лучше подготовлены к распознаванию синтетической речи.
Для защиты рекомендуется заранее договориться с близкими о семейном кодовом слове. Оно должно быть известно только членам семьи и не угадываться по данным из интернета. При неожиданном звонке с просьбой о деньгах следует завершить разговор и перезвонить человеку по заранее известному номеру. Дополнительный способ — задать личный вопрос. В 2024 году руководитель Ferrari разоблачил человека, выдававшего себя за CEO Benedetto Vigna: самозванец не смог назвать книгу, которую настоящий руководитель ранее рекомендовал.
Эксперт Malwarebytes Mark Beare отмечает, что ИИ подрывает базовое доверие людей к увиденному и услышанному. Опрос Malwarebytes показал: 85% людей считают, что мошенничество трудно отличить от настоящего сообщения, тогда как годом ранее так отвечали 66%. 88% заявили, что им всё сложнее определить, какой онлайн-контент действительно создан человеком. Проблема распространяется и на изображения с видео: дипфейки разрушают привычное правило «увидел — значит, это правда». Главный вывод статьи: при неожиданной просьбе о деньгах нельзя полагаться на голос; нужно проверить личность другим каналом.