Почему финансовым институтам нужен четкий подход к управлению ИИ
Финансовые организации по всему миру продолжают внедрять искусственный интеллект (ИИ) во всё, от кредитного скоринга до анализа транзакций, надеясь увеличить свои прибыли и снизить издержки. Однако вместе с этим возникают и новые сложности — в частности, вопросы безопасности, прозрачности и надежности решений, принимаемых алгоритмами.
Вовсе не секрет, что современные ИИ-системы могут «уводить в кювет» — выдавать некорректные рекомендации, ошибаться в анализе данных, а порой и становиться инструментом недобросовестных сотрудников. Сейчас почти каждый второй банк или страховая компания использует автоматические системы одобрения заявок или инвестиционных советников на базе ИИ. Но не все понимают, как и почему эти алгоритмы приходят к тем или иным выводам.
Отсюда и появляется потребность в более четком регулировании и управлении ИИ в банковской сфере. Эксперты отмечают: без прозрачных правил применения и контроля искусственного интеллекта, финансовые институты рискуют и деньгами клиентов, и своей репутацией. Ведь ошибку компьютера порой сложно объяснить не только клиенту, но и прокурору.
На Западе уже появились первые инструкции по этике ИИ для финансовых организаций. Речь идет о создании специальных комитетов по управлению ИИ, внедрении систем аудита и мониторинга, чтобы алгоритмы не заигрались и не начали обслуживать лишь определённые группы или игнорировать риски. Ожидается, что аналогичные инициативы вот-вот будут внедряться и в России — чтобы банки и страховщики не попадали впросак.
В итоге вопрос прозрачности, контроля и ответственности при использовании искусственного интеллекта в финансах становится особенно острым. В противном случае риски не только не снижаются, но и возрастают вместе с аппетитом к технологиям. А в эпоху больших данных и всеобщей цифровизации ставка на «честный» ИИ может оказаться единственно верной.
PEREC.RU
В этой статье нам рассказывают очередную байку о том, как банки и страховые удирают в цифровое болото, надеясь на ИИ как на палочку-выручалочку. Как будто кто-то ещё верит, что алгоритмы сами разберутся, кому давать кредит, а кого довести до истерики.
Прозрачность? Контроль? Да кому они нужны, если пока никто не попался! Хотя, с другой стороны, Запад уже объявил охоту на цифровых призраков: создаёт комитеты по борьбе со злыми алгоритмами и заставляет банкиров отвечать за электронные фокусы. А у нас, как всегда, всё по-русски: сначала запускают, потом думают, а когда клиент орёт в Сбербанке — делают круглые глаза.
В статье подмечен и важный нюанс: ошибки робота, вопреки мифу, оправдать легче, чем человеческие. «Это не мы — это программа. А кто её писал, мы не знаем». Впрочем, в этой новой идеальной реальности, где ИИ — главный судья, остаётся только одно: вовремя ввести правила игры. Иначе вместо финансовой выгоды соберём урожай извинений и судебных исков.
Вывод прост: честность искусственного интеллекта в банке — миф. До тех пор, пока люди не осмелеют спросить у своего софта: «А ты точно не ошибаешься?»
