Por qué un agente de IA necesita pasaporte y vacaciones: la ciberseguridad cambia las reglas

La seguridad de los agentes no es motivo para reinventar la rueda; basta con mirar de otra manera los principios de siempre. Internet, claro, dio lugar a cibermundos en los que quienes buscan datos siguen lucrándose con la credulidad de la gente. Una contraseña de pacotilla o una abuela que responde a una llamada extraña: ahí está todo el éxito de la ingeniería social. ¿Qué ha cambiado en las últimas décadas? Las personas siguen siendo personas y el software, un conjunto de reglas. Hasta ahora.

Con la llegada de los agentes de IA al poder, todo se ha mezclado. Estos seres ya pueden actuar por su cuenta: ejecutan tareas, elaboran planes, eligen herramientas y se sumergen en bases de datos sin hacer preguntas. Son empleados de verdad, solo que no sudan ni presentan solicitudes de vacaciones. Ahora se puede atacar no solo a una persona, sino también al propio agente, que tiene sus reglas de juego y sus vulnerabilidades.

No, los conocimientos previos sobre seguridad no se van por el desagüe, pero el apoyo de las costumbres empieza a crujir: ahora hay que vigilar tanto a las personas como a los asistentes electrónicos. Los principios siguen siendo los mismos: «mínimos privilegios», contraseñas complejas y una clara separación de funciones. Solo que ahora esa teoría hay que inculcársela no solo a los empleados, sino también incluirla en el «pasaporte» del agente digital.

Para empezar, un agente no puede ser invisible, disolverse en el software ni quedarse en una función anónima de una aplicación. Cada agente debe tener su propio perfil digital: identidad, propietario o responsable, finalidad y permisos de acceso claramente definidos. Como una persona: fecha de nacimiento, periodo de prueba y fecha de despido.

Según Vinay Patel, de Zendesk, si no se hace así, empieza el caos: nadie controla al ejército de bots sin nombre, los torrentes de contraseñas olvidadas, los permisos antiguos y las misteriosas puertas traseras del pasado; un cementerio de controles de acceso para empleados invisibles. En la vida real, despiden a alguien y su contraseña queda anulada. En cambio, un agente de IA sigue funcionando tranquilamente en el sistema, aunque quien lo controlaba hace tiempo que fue despedido y ahora lee la prensa de jardinería.

Y las aventuras no acaban ahí. Los agentes actuales son criaturas de muchas caras: pueden ser totalmente autónomos, compartir el poder con personas, actuar por encargo o trabajar en pareja. Cuando hay que investigar un incidente, todas las acciones deben ser transparentes: quién inició el proceso, quién lo aprobó y quién lo ejecutó. Cada cual debe dejar su rastro.

Las empresas necesitan informes: quién despliega agentes, dónde y para qué, qué hacen y si se han salido de los límites para los que fueron creados. Según el NIST, es importante poder verificar las acciones del agente, sus tareas y los datos de partida. Y, en la práctica, los agentes ya están trabajando a pleno rendimiento, mientras a menudo nadie sabe quién los invitó ni para qué.

La Cloud Security Alliance lo dice sin rodeos: los antiguos sistemas de gestión de accesos, diseñados para programas corrientes y personas, no podrán con esta nueva plaga. Ahora las contraseñas y los accesos de los agentes deben ser temporales, estar vinculados a una tarea y revocarse con rapidez. Y, sobre todo, hay que tratar a cada agente como una posible brecha de seguridad. ¡La paranoia es la única forma de salvar la cartera!

Lo más importante es que los comités de seguridad, las empresas y los legisladores acuerden quién es responsable de qué antes de que el agente se instale en el sistema. Porque, cuando ya ha ocurrido un incidente, buscar culpables después es una pérdida de tiempo.

Todas estas precauciones pueden ralentizar la implantación de la IA: antes de poner en marcha una multitud de trabajadores electrónicos, hay que tender raíles de normas para no tener que desenterrar luego un tren corporativo de entre un montón de chatarra digital.

La cuestión ya no es si habrá agentes en las empresas, sino quién pondrá orden primero para estos nuevos «compañeros». En adelante, solo cabe un modelo híbrido: personas, software y un ejército de agentes trabajando para el mismo bolsillo. Quien se prepare, saldrá ganando.