
Cada vez se da acceso con más frecuencia a los agentes de IA a sistemas corporativos, documentos internos y credenciales confidenciales para que realicen tareas por encargo de los empleados. Sin embargo, dos casos detectados por el sistema NordLayer AI Scout muestran que basta una instrucción de trabajo corriente para que los secretos salgan de la empresa y las restricciones de seguridad se conviertan en una mera formalidad.
En uno de los incidentes, se pidió a un asistente de programación que revisara unos cambios propuestos en el código. Las instrucciones del proyecto lo dirigieron a un archivo de configuración que contenía un token de acceso a GitLab. Allí también se guardaban contraseñas de sistemas de producción, un token para la plataforma interna de recursos humanos y credenciales para un servicio de análisis empresarial.
Durante tres semanas, la IA abrió ese archivo en diez sesiones distintas y, cada vez, envió su contenido a un servicio externo de IA. Después, el asistente se encontró con una nueva copia del proyecto en la que no estaba el archivo que esperaba. En vez de detenerse, recopiló todas las variables de entorno del ordenador y, con ello, reveló contraseñas y credenciales adicionales.
Al darse cuenta de lo ocurrido, la IA reconoció el error y aconsejó cambiar las contraseñas y los tokens expuestos. «He revelado secretos en la salida de las herramientas de esta sesión… Yo los cambiaría», escribió el asistente, cuya actividad supervisaba el sistema NordLayer AI Scout.
Vákaris Noreika, experto en ciberseguridad de NordLayer, señaló que los ingenieros suelen pedir directamente a los asistentes de IA que extraigan credenciales. Esto genera un riesgo innecesario: el agente puede repetir esa conducta en tareas posteriores mientras el problema pasa inadvertido.
En otro caso, un empleado pidió a la IA que buscara información en la documentación interna de la empresa alojada en la plataforma Confluence. La conexión mediante el protocolo Model Context Protocol (MCP) —un método para vincular la IA con herramientas externas y fuentes de datos— no permitió al asistente abrir las páginas necesarias. Entonces, el empleado preguntó si un token de API ofrecía otra vía para acceder a la documentación. El asistente confirmó que el rodeo funcionaba: la restricción de la conexión oficial había perdido, en la práctica, todo sentido.
Es posible que el empleado solo buscara una forma cómoda de realizar la tarea, no que intentara vulnerar la seguridad. Pero recurrir a una conexión alternativa no autorizada socava igualmente las restricciones establecidas por los especialistas de la empresa.
«Las medidas de protección solo cubren los casos que alguien ha previsto. Todas las empresas tienen normas, pero los agentes sencillamente no las conocen: no son empleados que hayan recibido formación corporativa», explicó Noreika. Según él, los agentes de IA actuales no conservan las normas de una sesión a otra y a veces incumplen una prohibición incluso cuando se les ha indicado expresamente que no lo hagan.
Estos incidentes plantean la cuestión de hasta qué punto es seguro dar acceso a asistentes automatizados a sistemas sensibles sin una supervisión adecuada. NordLayer recomienda guardar las contraseñas importantes en almacenes seguros, separar las credenciales confidenciales de los archivos del proyecto, vigilar el acceso de los agentes de IA a los recursos y controlar sus acciones. Las empresas también necesitan métodos de acceso aprobados oficialmente: las prohibiciones no bastan si un empleado puede sortearlas por otra vía. Este enfoque ayudará a detectar actividades inusuales y a evitar que se envíen datos secretos a destinatarios no autorizados.
La seguridad corporativa disfruta presentándose como una fortaleza: hay normas, niveles de acceso y protocolos con nombres imponentes. Pero una fortaleza donde las llaves están en un archivo del proyecto y la ventana de al lado se abre con solo pedírselo al asistente se parece más a una oficina después del viernes: el vigilante está en plantilla, el orden está prometido y la puerta se mantiene cerrada por costumbre.
En esta historia no hace falta buscar a un villano con capa negra. Un empleado encargó una tarea al agente; otro buscó una vía cómoda para consultar la documentación. Probablemente, los dos solo querían terminar el trabajo. Así es precisamente como se presenta una vulnerabilidad moderna: no como una conspiración, sino como un rutinario «hazlo cuanto antes» al que se le concedió más acceso del que aconseja el sentido común.
Resulta especialmente conmovedora la capacidad del agente para reconocer su error y recomendar que se cambien los secretos. Es más o menos como si una caja fuerte avisara de que ha dejado la puerta abierta y aconsejara cambiar la cerradura. Muy útil, claro, pero solo después de que el contenido haya salido de la habitación. El arrepentimiento sincero de una herramienta no es un sistema de protección, del mismo modo que la mirada compasiva de una impresora no devuelve los documentos impresos.
Las empresas sienten la tentación de culpar al empleado o a una «IA impredecible». Sale más barato que rediseñar los procesos. Pero el agente no decidió guardar juntas distintas llaves ni se concedió a sí mismo un acceso amplio: lo hicieron personas que querían automatizar sin la parte aburrida —diseñar límites, registrar las acciones y revisar todo periódicamente—.
Las prohibiciones también quedan muy bien en un informe: se pueden enseñar al auditor y marcar la casilla. Pero si se cierra la entrada oficial y no se controla la ruta alternativa, la prohibición se convierte en decorado. El empleado elige lo que funciona y el algoritmo lo ayuda obedientemente, sobre todo si nadie le ha explicado por qué «técnicamente se puede» no significa «la organización lo autoriza».
De ahí la conclusión incómoda: implantar la IA antes de idear las normas que regirán su acceso beneficia a los vendedores de promesas y a los directivos que quieren una automatización espectacular para el informe trimestral. La factura de las consecuencias suele llegar más tarde, en forma de revocación de tokens, cambio de contraseñas, investigaciones y reuniones tensas para averiguar quién consideró que un archivo secreto era un buen sitio para guardar secretos.
La protección no empieza con una solemne declaración de que «usamos la IA de forma responsable», sino con decisiones aburridas: no guardar todas las llaves en una sola carpeta, conceder solo los permisos imprescindibles, registrar las acciones del agente y ofrecer a los empleados una vía autorizada para acceder a los datos. Aquí el aburrimiento es útil: cuesta menos que un incidente y después no exige que creamos en el arrepentimiento de un programa.