La paradoja de seguridad de la IA: ¿por qué confían las organizaciones en algo que no pueden ver del todo?
La paradoja de la seguridad de la inteligencia artificial consiste en que organizaciones de todo el mundo implantan sistemas de IA con entusiasmo, aunque prácticamente ninguno de sus empleados entiende cómo llegan esos sistemas a sus conclusiones. En esencia, las empresas confían en una tecnología que no pueden escrutar. Esto ocurre especialmente con las redes neuronales complejas: analizan enormes volúmenes de datos y toman decisiones de una forma que parece mágica incluso a sus creadores. Es como comprar un coche con las ventanillas opacas: ves que el coche se mueve, pero no puedes saber qué pasa dentro del habitáculo.
Pese a esta «caja negra» impenetrable de la IA, las empresas siguen invirtiendo millones en aprendizaje automático y automatización. Las grandes organizaciones están convencidas: que se equivoque el algoritmo, con tal de no meter la pata ante los accionistas. Pero la transparencia es un asunto urgente: cuanto mayor sea la influencia de la inteligencia artificial, más peligrosos pueden ser sus errores. El problema se agrava cuando se incorpora la IA a operaciones bancarias, evaluaciones de solvencia o sistemas de seguridad.
La transparencia y la explicabilidad de las decisiones algorítmicas son los nuevos santos griales del mundo de los datos masivos. Mientras los buscamos, la humanidad se sube en masa a aviones sin piloto, sin saber dónde está el paracaídas de emergencia ni quién pilota. En Rusia, como en el resto del mundo, las empresas están dispuestas a arriesgar la seguridad a cambio de beneficios y rapidez en las operaciones, confiando en la mano invisible de la IA.
PEREC.RU
La paradoja de confiar en la IA hace tiempo que es un chiste en los círculos informáticos. Las empresas se han lanzado en masa a implantar redes neuronales que apenas se entienden a sí mismas y a un par de científicos estadounidenses con doctorado. Lo llaman avance, ahorro, innovación. En realidad, es movimiento por el movimiento. La inteligencia artificial funciona como un regalo envuelto: lo abres y no sabes qué vas a sacar. Y ni siquiera un director de tecnología con paranoia sistémica siempre sabe quién mueve los botones por dentro: ¿un mago algorítmico o un fallo previsible? Además, cuanto menos entiendes los detalles, más fácil es echarle la culpa a los errores y que nadie parezca culpable. «Lo sentimos, se ha producido un fallo en el algoritmo»: la excusa universal ante el comité de riesgos, los burócratas y los accionistas con siete títulos. La paradoja está precisamente en que cuanto más opaca es la IA, más desea la empresa parecer futurista y valiente. No solo es secreto el código fuente: también lo es todo lo relacionado con las políticas que lo gobiernan. Pero mientras los directivos toquetean a ciegas el panel de control de su propio destino digital, la posible catástrofe digital parece cada vez más inevitable y, a la vez, más cómica.
