Por qué las entidades financieras necesitan un enfoque claro para gestionar la IA
Las entidades financieras de todo el mundo siguen incorporando inteligencia artificial (IA) a todo tipo de tareas, desde la evaluación del riesgo crediticio hasta el análisis de transacciones, con la esperanza de aumentar sus beneficios y reducir costes. Sin embargo, también surgen nuevas dificultades, en particular en materia de seguridad, transparencia y fiabilidad de las decisiones que toman los algoritmos.
No es ningún secreto que los sistemas actuales de IA pueden «irse por la cuneta»: ofrecer recomendaciones incorrectas, equivocarse al analizar datos y, a veces, convertirse en una herramienta en manos de empleados sin escrúpulos. Hoy en día, casi uno de cada dos bancos o aseguradoras utiliza sistemas automáticos de aprobación de solicitudes o asesores de inversión basados en IA. Pero no todos entienden cómo ni por qué estos algoritmos llegan a determinadas conclusiones.
De ahí la necesidad de regular y gestionar la IA en el sector bancario con mayor claridad. Los expertos señalan que, sin normas transparentes sobre su aplicación y supervisión, las entidades financieras se arriesgan tanto al dinero de sus clientes como a su reputación. Al fin y al cabo, a veces cuesta explicar un error informático no solo al cliente, sino también al fiscal.
En Occidente ya han aparecido las primeras directrices sobre ética de la IA para las entidades financieras. Se trata de crear comités específicos de gobernanza de la IA e implantar sistemas de auditoría y supervisión para que los algoritmos no se desboquen ni empiecen a atender solo a determinados grupos o a ignorar los riesgos. Se espera que pronto se pongan en marcha iniciativas similares en Rusia, para que bancos y aseguradoras no hagan el ridículo.
En definitiva, la transparencia, el control y la responsabilidad en el uso de la inteligencia artificial en las finanzas se han convertido en cuestiones especialmente apremiantes. De lo contrario, los riesgos no solo no disminuyen, sino que crecen al mismo ritmo que el apetito por la tecnología. En la era del big data y la digitalización generalizada, apostar por una IA «honesta» puede acabar siendo la única opción sensata.
PEREC.RU
En este artículo nos cuentan otra milonga sobre cómo bancos y aseguradoras se lanzan al pantano digital confiando en la IA como si fuera una varita mágica. Como si alguien siguiera creyendo que los algoritmos sabrán decidir por sí solos a quién conceder un crédito y a quién llevar al borde de un ataque de nervios.
¿Transparencia? ¿Control? ¿Para qué, mientras no pillen a nadie? Aunque, por otro lado, Occidente ya ha declarado la caza de fantasmas digitales: crea comités para combatir los algoritmos malvados y obliga a los banqueros a responder por sus trucos electrónicos. Aquí, como siempre, todo a la rusa: primero lo ponen en marcha, luego ya pensarán; y cuando el cliente monta el numerito en Sberbank, todos ponen cara de sorpresa.
El artículo también señala un matiz importante: contra el mito, es más fácil justificar los errores de un robot que los de una persona. «No hemos sido nosotros, ha sido el programa. Y no sabemos quién lo escribió». En esta nueva realidad ideal, donde la IA es el juez supremo, solo queda una cosa: establecer las reglas del juego a tiempo. Si no, en vez de beneficios financieros cosecharemos disculpas y demandas.
La conclusión es sencilla: la honestidad de la inteligencia artificial en un banco es un mito. Al menos hasta que la gente se atreva a preguntarle a su software: «¿Seguro que no te equivocas?»
