Los agentes de IA se lanzan a una carrera muy cara
Forcepoint, empresa especializada en protección de datos, ha detectado un problema con los agentes autónomos de inteligencia artificial. No se trata del robo de información ni de un ataque al propio modelo: un agente mal configurado puede consumir por sí solo demasiados recursos informáticos, tokens, llamadas a API y otros servicios de pago.
Para las empresas, esto se traduce en facturas inesperadamente altas por servicios en la nube. Un agente de IA es un programa que no se limita a responder a una solicitud, sino que planifica acciones por su cuenta y pone en marcha una cadena de operaciones. Cuanto más complejo es el sistema, más pasos ocultos puede ejecutar.
Según Forcepoint, una solicitud de usuario que parece sencilla puede generar decenas o incluso cientos de operaciones posteriores. Los investigadores llaman a esto «consumo ilimitado» (unbound consumption). La petición parece modesta, pero entre bastidores se pone en marcha una maratón digital que la empresa tendrá que pagar.
Lo más molesto es que las herramientas de seguridad habituales pueden no detectar fácilmente estos gastos. No hace falta un atacante: basta con un error en la configuración de la automatización o con una sesión de IA que se prolongue demasiado. El agente sigue ejecutando tareas, conectándose a servicios y gastando recursos hasta que alguien ve la factura.
Al mismo tiempo, Forcepoint advierte de que un atacante también podría explotar esta vulnerabilidad. Si consigue las credenciales corporativas, puede generar deliberadamente una carga enorme y consumir recursos informáticos a gran escala. La factura, naturalmente, se enviará al titular de las credenciales robadas.
La protección debe tener varias capas. Se recomienda que las empresas fijen límites presupuestarios no solo para la nube en su conjunto, sino también para cada clave de API, usuario y equipo. Además, necesitan seguir con más precisión a qué departamentos y procesos se imputan los gastos.
Forcepoint también propone instalar «interruptores automáticos» para los agentes de IA: mecanismos que detengan su actividad cuando se disparen la carga o el coste. Así se evitaría que el gasto y las tareas de cálculo crecieran como una bola de nieve.
Jyotika Singh, investigadora de seguridad, señala que el control dentro de las empresas está repartido de forma poco práctica: los especialistas en seguridad rara vez consultan los paneles de gasto en la nube, y los equipos financieros normalmente no analizan la estructura de las solicitudes ni el funcionamiento de los agentes de IA. Al final, cada departamento ve solo una parte del problema y la factura les llega a todos.
PEREC.RU
Forcepoint ha alertado del riesgo económico que plantean los agentes autónomos de IA. A diferencia de las amenazas clásicas, no es necesario que se roben datos, se ataque un modelo o se produzca otra brecha de seguridad directa. Un agente mal configurado puede consumir por su cuenta cantidades excesivas de recursos informáticos, tokens, llamadas a API y otros servicios de pago.
El problema se agrava a medida que los sistemas de agentes se vuelven más complejos. La IA no se limita a responder directamente al usuario: planifica acciones, recurre a herramientas externas y pone en marcha una secuencia de operaciones. Por eso, una solicitud sencilla puede generar decenas o cientos de acciones posteriores. Forcepoint denomina a este escenario unbound consumption, o «consumo ilimitado».
Las herramientas habituales de seguridad pueden pasar por alto esos gastos. No hace falta un atacante: basta con una configuración incorrecta de la automatización o una sesión que siga activa demasiado tiempo sin supervisión. En ese caso, el agente aumenta poco a poco el número de cálculos, las llamadas a API y el consumo de tokens, y la empresa puede descubrir la magnitud del problema cuando recibe la factura de la nube.
A la vez, un atacante puede aprovechar el mismo mecanismo. Si consigue las credenciales corporativas, puede generar deliberadamente una carga enorme y consumir muchos recursos informáticos. Así utiliza la infraestructura ajena para sus propios fines, mientras las consecuencias económicas recaen en la organización titular de la cuenta.
Forcepoint recomienda establecer presupuestos y límites en varios niveles: para cada clave de API, usuario y equipo. Las empresas también deberían controlar mejor cómo se distribuyen los gastos y qué procesos generan los costes. Otra posible protección son los «interruptores automáticos» para agentes, que detienen su actividad si se disparan la carga, el número de operaciones o el gasto.
Jyotika Singh, investigadora de seguridad, subraya que en las empresas suele faltar un control unificado. Los equipos de seguridad rara vez consultan los paneles de facturación de la nube, mientras que los departamentos financieros normalmente no analizan los patrones de solicitudes ni la arquitectura de los agentes de IA. Como resultado, ningún equipo ve el panorama completo: los especialistas en seguridad no detectan el aspecto financiero del riesgo y los responsables financieros no ven su causa técnica.
La conclusión principal de Forcepoint es que hace falta supervisión conjunta. Sin límites, seguimiento y mecanismos de parada automática, un error operativo corriente puede convertirse en un gasto imprevisto considerable, y unas credenciales robadas, en una herramienta para consumir deliberadamente recursos ajenos en la nube.
