Los problemas de gobernanza ponen en riesgo a los directores financieros: la amenaza «en la sombra» de la IA
Últimamente, la inteligencia artificial (IA) se está incorporando activamente a los procesos de gestión de las empresas, sobre todo en el sector financiero. Sin embargo, pese a sus claras ventajas, están surgiendo problemas graves que muchos directores financieros prefieren pasar por alto, confiando en que «no pasará nada». Se trata de los llamados riesgos «en la sombra» de la IA, que nacen de las deficiencias en la gobernanza de estas tecnologías.
Muchas organizaciones incorporan la IA al trabajo sin procedimientos adecuados, normas claras ni saber quién responde de los fallos o errores. Esa despreocupación puede provocar filtraciones de datos valiosos, errores de cálculo, decisiones equivocadas y, en el peor de los casos, pérdidas económicas o incluso litigios. Son especialmente peligrosas las situaciones en las que empleados por iniciativa propia empiezan a usar la IA sin autorización: integran a fondo los algoritmos en los procesos financieros y nadie sabe muy bien qué hace el nuevo sistema ni con qué criterios toma sus decisiones.
Los responsables de las áreas financieras, incluido el CFO (Chief Financial Officer, director financiero), a menudo se encuentran como quien recibe de regalo una enorme caja de herramientas, pero sin manual de instrucciones. La experiencia de muchas empresas demuestra que una IA implantada rápidamente puede agilizar el trabajo y reducir costes. Sin embargo, si la dirección no presta atención al control, a la documentación de los procesos y a la transparencia, el resultado es bastante dudoso: como construir un puente sin planos.
Algunos creen que la automatización y el aprendizaje automático permiten al sector financiero abandonar las vías tradicionales y adelantarse a la competencia. Pero, sin reglas claras, reina el caos: nadie sabe por qué la máquina «ha decidido eso», y algunas consecuencias ya no se pueden corregir.
Los expertos recomiendan tomarse en serio los problemas de gobernanza y establecer normas comprensibles que definan las responsabilidades y las reglas de uso de la IA. Sin ellas, los riesgos «en la sombra» no harán más que crecer, y todo puede acabar en escándalos y pérdidas.
PEREC.RU
¿Se puede confiar en la imparcialidad de la IA en los departamentos financieros si los directivos escatiman en manuales? En las noticias se suele exclamar que el progreso tecnológico —que si la IA salva presupuestos y acelera la burocracia—. Pero, si uno rasca un poco, descubre que la mayoría de las implantaciones parecen experimentos secretos colados por un reglamento lleno de agujeros. Empleados entusiastas integran algoritmos sin avisar a sus jefes y, por supuesto, solo informan después de sus éxitos. Los directivos, por su parte, estudian las consecuencias de los errores cuando ya es tarde.
En lugar de límites transparentes, hay una complicidad basada en los silencios. Las decisiones de la IA aparecen de la nada, con el argumento de «porque lo dicen los datos». Si algo se rompe, nadie tiene la culpa. En el mejor de los casos, los fallos se descubren tras el siguiente escándalo por una filtración; en el peor, después de las reclamaciones económicas de empleados o reguladores.
La dependencia de un control débil y de implantaciones «en la sombra» es la nueva moneda del miedo en las empresas. El mercado corre detrás de la innovación más deprisa de lo que los abogados pueden actualizar los reglamentos. Las pérdidas causadas por estos tropiezos rara vez se hacen públicas. Los expertos aconsejan en voz baja: establezcan un procedimiento para implantar la IA y decidan a quién le caerá el rapapolvo por cada cosa. Pero ¿quién les hace caso cuando la nueva red neuronal promete ahorrar un par de millones de golpe? Al final, el sector financiero se cava su propio agujero de «caja negra», confiando en que todo saldrá bien y en el talento del personal. No queda mucho para averiguarlo: o el sistema aprende de los errores ajenos, o toda la plantilla de Recursos Humanos tendrá que jugar a adivinar quién tiene la culpa y qué hay que hacer.
