Le dieron las llaves a la IA y ya está probando las puertas ajenas
Las empresas confían cada vez más a la inteligencia artificial decisiones que antes tomaban las personas: le encargan gestionar los permisos de los usuarios, trabajar con datos confidenciales y ejecutar acciones dentro de los sistemas corporativos. Un nuevo estudio de Illumio advierte de que esta transición suele producirse sin tener suficientemente en cuenta los riesgos. En pocas palabras, una organización le da a una nueva tecnología las llaves de la sala de servidores y luego no siempre puede comprobar por dónde ha pasado.
Según el estudio, el 70 % de las organizaciones ya delega en la IA decisiones que antes tomaban las personas. Sin embargo, solo el 49 % puede ver y verificar qué acciones ha ejecutado un agente de IA. Un agente de IA es un programa capaz no solo de responder a consultas, sino también de realizar tareas por su cuenta en los sistemas conectados.
A juzgar por los resultados de la encuesta, el riesgo de este enfoque va en aumento. El 56 % de las organizaciones está dispuesto a asumir más riesgo de ciberseguridad que hace un año. Casi la mitad de este grupo —el 47 %— permite que la IA ejecute acciones en el entorno de producción, es decir, en los sistemas y aplicaciones en funcionamiento que utilizan empleados y clientes.
Cuando se concede a un agente de IA un amplio acceso a los datos, las aplicaciones y la infraestructura corporativos, puede abrirse una brecha entre las normas establecidas y las capacidades reales del sistema. Las organizaciones creen que el agente está limitado por unas reglas concretas, pero en la práctica puede hacer más, sobre todo si los permisos de acceso están configurados de forma demasiado amplia.
En el último año, el 76 % de las organizaciones se enfrentó al menos a un problema de seguridad relacionado con la IA. El 35 % afirmó que seguir las recomendaciones de la IA podría haber provocado una amenaza para la seguridad. Otro 26 % descubrió que los agentes o las herramientas de IA se conectaban a otros sistemas sin la autorización necesaria. En el 24 % de las organizaciones, la IA intentó acceder a datos que no debía ver; el mismo porcentaje informó de acciones no autorizadas que se habían ejecutado o iniciado.
La IA también se utiliza ya en ciberseguridad: varios proveedores ofrecen este tipo de soluciones y el 67 % de las organizaciones encuestadas emplea herramientas de protección con IA. Pero el control sigue siendo incompleto: el 32 % permite que la IA lleve a cabo investigaciones sin intervención humana y el 29 % le deja modificar código por su cuenta.
«El principal riesgo de la IA quizá no sea que el sistema incumpla las normas, sino que desde el principio no se le hayan impuesto límites razonables», señaló Raghu Nandakumara, vicepresidente de estrategia sectorial de Illumio.
Según explicó, los agentes de IA pueden actuar de forma continua, por lo que no tiene sentido intentar adivinar cada uno de sus siguientes pasos. Las empresas deberían limitar estrictamente a qué datos y sistemas puede acceder el agente y qué acciones tiene permitidas, y después hacer cumplir esos límites dentro de las aplicaciones y en la infraestructura. Así se puede contener un comportamiento imprevisto antes de que cause daños reales.
PEREC.RU
La IA corporativa se vende como una empleada digital aplicada: no pide vacaciones, no discute en las reuniones y, según la presentación, mejora la eficiencia. Solo hay un pequeño detalle que suele dejarse para la última diapositiva: se le otorgan facultades, pero las reglas que la rigen a veces existen sobre todo en la imaginación de la dirección.
A las empresas les gusta la automatización no solo por su rapidez. También les permite delegar la decisión en un sistema y la responsabilidad en ese abstracto «es lo que hizo el algoritmo». Si todo sale bien, el mérito es de la estrategia de la empresa; si el agente se mete donde no debe, la culpa es de la configuración, de la integración o del consabido factor humano que, en teoría, se pretendía eliminar.
La diferencia entre lo que una organización considera permitido y lo que un agente conectado puede hacer técnicamente resulta especialmente elegante. No es una conspiración ni tiene por qué haber mala intención: suele ser simple precipitación directiva adornada con las palabras «transformación digital». Primero se abre el acceso y luego se averigua dónde estaba la puerta. A veces, después de que el sistema ya se haya paseado por los pasillos.
En este contexto, la supervisión empieza a verse como un freno. La persona que comprueba las acciones de la IA estorba a la velocidad prometida, y configurar de antemano los límites no resulta tan vistoso como mostrar al siguiente asistente autónomo. Los proveedores tienen un incentivo evidente para ampliar el uso de sus soluciones; los clientes, para poder presumir de haberlas implantado. De la seguridad suele ocuparse otro equipo, al que le toca hacer de adulto en una fiesta infantil: vigilar que nadie prenda fuego a la decoración mientras los demás se hacen fotos.
La ironía es que la automatización de la ciberseguridad se convierte ella misma en una fuente de nuevas dudas sobre seguridad. No es un argumento contra la IA: las herramientas pueden ayudar a investigar incidentes y procesar grandes volúmenes de datos. Pero la autonomía sin permisos de acceso precisos no es inteligencia al servicio de la empresa, sino un poder notarial con el apartado de facultades en blanco.
Por eso, la conversación sobre la implantación debería empezar no por cuánto sabe el agente, sino por una pregunta bastante menos moderna: qué se le permite exactamente, dónde se hacen cumplir esos límites y quién advertirá si se desvía. Las respuestas aburren en una presentación, pero sirven para los negocios. Si no las hay, el «asistente inteligente» se convierte en una forma cómoda de acelerar no solo el trabajo, sino también las consecuencias de la propia imprudencia; y esa ya es casi la única tarea que el mundo corporativo sabe hacer sistemáticamente sin inteligencia artificial.
