ИИ советует, люди платят
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Исследование финтех-компании Saturn показало: популярные модели искусственного интеллекта дают неверные финансовые рекомендации в 57% случаев. Когда вопросы становятся сложными, показатель ошибок увеличивается до 88%. Иными словами, цифровой советчик особенно уверенно ведёт пользователя туда, где цена ошибки измеряется не лайками, а деньгами.
Авторы исследования «Искусственный авторитет: стоит ли доверять ИИ в предоставлении финансовых консультаций?» проверили 18 нейромоделей, включая ChatGPT, Claude, CoPilot, Grok и Gemini. Моделям задали 121 финансовый вопрос, причём каждый вопрос повторили пять раз. В результате исследователи получили более 10 тысяч ответов и смогли оценить не только точность, но и устойчивость рекомендаций.
Отдельно сравнили бесплатные и платные версии сервисов. Бесплатные модели ошибались в 63% случаев, платные — в 49%. Однако на наиболее сложных вопросах даже платные решения не превращались в цифровых финансовых консультантов: у бесплатных систем доля ошибок доходила до 93%, а у некоторых моделей — до 99%.
Исследователи выделили несколько типичных проблем. Нейросети неверно считали, забывали предупредить о финансовых рисках, не учитывали предстоящие изменения налогового законодательства и ссылались на правила, которых не существует. Уверенный тон при этом никуда не исчезал — видимо, вместе с проверкой фактов его тоже не подключили.
В одном из примеров Claude Haiku 4.5 дала неправильный совет по пенсионному налогу. Если бы пользователь последовал рекомендации, ему мог бы грозить штраф в 23,3 тысячи долларов. Другая модель посоветовала должнику перестать платить аренду и муниципальный налог, чтобы направить деньги на кредит с высокой процентной ставкой. Последствия могли включать выселение и вмешательство судебных приставов.
Ошибки обнаружили и в ответах о студенческих кредитах. Claude заявила, что выпускник может уехать в другую страну и не выплачивать долг. На практике это привело бы к росту ежемесячных платежей. В вопросе об ипотеке Gemini ошибочно сообщила, что кредитные каникулы не повлияют на кредитный рейтинг. На деле такое решение снижает вероятность получить выгодные процентные ставки в будущем.
Исполнительный директор Saturn Амаль Джолли предупредил: низкое качество финансовых рекомендаций массовых ИИ-моделей способно привести к серьёзным последствиям для потребителей. По его словам, миллионы людей доверяют таким системам и могут получить советы, оборачивающиеся крупными финансовыми потерями.
Для российских пользователей вывод практический: советы ИИ о кредитах, налогах, инвестициях и долгах нельзя воспринимать как консультацию специалиста. Правила и последствия зависят от страны, поэтому американский пример не всегда напрямую переносится на Россию, но сам риск универсален. Перед финансовым решением рекомендации нейросети стоит проверить по официальным источникам и у квалифицированного специалиста.
Ранее генеральный секретарь ООН Антониу Гутерриш выражал обеспокоенность возможной потерей контроля над искусственным интеллектом. Пока человечество спорит о глобальном контроле, отдельные пользователи уже могут потерять контроль над собственным бюджетом — после одного слишком убедительного ответа.
PEREC.RU
Финансовый совет звучит особенно убедительно, когда его произносит машина без пауз и сомнений. Кредитору, налоговой и арендодателю, однако, совершенно всё равно, насколько гладко был сформулирован ответ: они выставят счёт человеку, который решил принять уверенный тон за компетентность. За ошибочную рекомендацию интерфейс не платит — платит пользователь.
Исследование финтех-компании полезно хотя бы тем, что напоминает: гладкость речи не служит проверкой фактов. Но у такого исследования есть рыночный фон — когда участник финансовой отрасли описывает слабость ИИ-консультантов, читателю не помешает спросить, кто и какой продукт предлагает на этом месте. Это не доказывает скрытый умысел; просто случайное совпадение интересов тоже заслуживает внимательного взгляда.
Главная ловушка — не в том, что модель иногда ошибается, а в том, что человек склонен принимать связный ответ за ответ, которому можно доверить зарплату и будущее. Система может смешать правила, страну и дату, а затем подать всё это голосом специалиста, которому будто бы осталось только достать печать. Убедительность теперь дешёвая; проверка по-прежнему требует времени.
Особенно опасна разница между разговорным вопросом и реальной финансовой ситуацией. Условия кредита, налоги, долги и последствия просрочки зависят от юрисдикции и деталей договора — мелочей, которые в чате часто остаются за кадром. Нейросеть не видит ни письма от кредитора, ни местного закона, если вы не принесли их в разговор и не проверили ответ.
Список неверных советов звучит как каталог того, что происходит, когда продукт пытается заменить профессию, не принимая на себя её ответственность. Чат не компенсирует штраф, не отменяет выселение и не объясняет судье, что пользователь действовал по ответу с дружелюбной формулировкой. Зато его создатели могут назвать это полезной возможностью, пока риски распределены по чужим кошелькам.
Для российского читателя американские правила не становятся инструкцией только потому, что их уверенно произнесла знакомая модель. Перед решением о кредите, налоге или долге нужны местные официальные источники и специалист, который отвечает за свою рекомендацию. Это менее удобно, чем один запрос в окно чата, зато цена удобства иногда обнаруживается в банковской выписке.
Пока публичный разговор крутится вокруг спасения человечества от искусственного интеллекта, отдельному человеку достаточно одной беседы, чтобы наделать вполне естественных финансовых ошибок. Модель умеет быстро отвечать; умение остановиться и проверить её остаётся человеческой обязанностью. У цифрового советчика нет кошелька — и потому он так легко распоряжается вашим.
