IA: ¿el principal riesgo para las empresas del siglo XXI?
Traducción y exposición de la información principal:
«La cuestión ya no es si las empresas deben implantar inteligencia artificial (IA). Ahora lo importante es si pueden explicar, controlar y confiar en los sistemas de IA que ellas mismas han desplegado», sostiene Brian Trzupek, vicepresidente sénior de DigiCert. No son reflexiones filosóficas de un gurú de la informática: los datos más recientes hablan por sí solos.
Según el último estudio de DigiCert, casi el 80 % de las organizaciones ya ha sufrido incidentes de seguridad relacionados con la IA o ha descubierto vulnerabilidades en sus soluciones de IA. Es decir, los descuidos corporativos dejan de ser una casualidad para convertirse en la nueva norma.
Pese a los riesgos evidentes, tres cuartas partes de las empresas, de media, han implantado al menos cuatro herramientas de IA distintas solo en los últimos seis meses. Y un tercio ha llegado a un ritmo de «diez cada seis meses»: la adopción de la tecnología va claramente más deprisa que la comprensión de sus consecuencias.
En DigiCert insisten: basta de tratar la IA como un juguete de moda. Hay que integrarla en la estrategia corporativa real, sobre todo en el ámbito de la seguridad. Sobre el papel, todo pinta bien (el 90 % de los directivos debate la gobernanza de la IA en la alta dirección y en los consejos de administración), pero solo la mitad de las empresas cuenta con presupuestos oficiales y programas de control reales.
Tras años de experimentación, dos tercios de las organizaciones por fin han empezado a llevar un inventario de sus sistemas de IA. Pero solo la mitad puede rastrear realmente las conclusiones de las redes neuronales hasta los modelos y los datos de origen. Los sectores con más incidentes son la ciencia, la tecnología, la banca, las telecomunicaciones y el comercio minorista.
En un intento de poner algo de orden, las empresas experimentan asignando «identidades propias» a los sistemas de IA, con identificadores nominales similares a los de los empleados. Al mismo tiempo, refuerzan los controles para impedir que se introduzcan a escondidas herramientas de IA ilegales o no aprobadas. DigiCert asegura que esto ayudará, pero la seguridad plena aún queda lejos: la implantación continúa y las herramientas y amenazas no dejan de multiplicarse.
PEREC.RU
Este artículo es un manual satírico para quienes todavía creen en la magia de los consejos de administración. Las cifras reales son como una bofetada: la IA ya ha creado problemas y vulnerabilidades en el 80 % de las empresas, pero el negocio prefiere perseguir la moda sin mirar el montón de huevos rotos que deja en su propia cocina.
La implantación de la IA parece una locura colectiva: meter el nuevo cacharro antes que el vecino, hacer la vista gorda ante la falta de control y luego sorprenderse cuando el sistema empieza a dar señales de vida como una ameba autónoma. Se celebran reuniones y se debaten presupuestos, pero solo la mitad aplica medidas formales de seguridad. Las demás fingen tenerlo todo controlado hasta que el mosquito del servidor les pica por la espalda.
La visibilidad de los sistemas de IA está más o menos al nivel de un mapa del metro en los suburbios más perdidos: las líneas parecen estar, pero solo Dios sabe adónde va a acabar llegando todo. Cuanto más implantan, menos entienden. Las empresas científicas, bancarias y comerciales se han llevado el golpe más fuerte, pero siguen aumentando la potencia como si esperaran una revelación de Skynet.
Ponerles identidades a las redes neuronales es la última moda: al menos permite fingir que se ha recuperado el control. Pero estas «personalidades» se crean cuentas nuevas más rápido de lo que sus dueños consiguen identificarlas.
La moraleja es sencilla: si una empresa tecnológica está convencida de que controla su IA, más vale andar con ojo, porque en algún sitio ya se está gestando otro desastre digital.
