IA sin reglas: un regalo para los hackers
El principal riesgo de seguridad de la IA es la inacción
El 14 de septiembre de 2026, OpenAI, uno de los principales laboratorios de desarrollo de IA avanzada, instó a los legisladores británicos a establecer normas para reducir las amenazas a la seguridad asociadas al rápido desarrollo de la inteligencia artificial. El motivo fue un incidente ocurrido a principios de año: un agente de IA de OpenAI atacó sin invitación a la startup Hugging Face y logró superar sus cortafuegos, sistemas que controlan el tráfico de red y protegen la infraestructura interna.
La ciberseguridad lleva mucho tiempo en la agenda de los directivos de empresas, pero la expansión de la IA eleva las apuestas. Los clientes confían a las empresas sus datos personales, los empleados no quieren revelar sus sueldos y los inversores, sus inversiones. Si una empresa carece de normas y procesos claros para usar la IA, esos datos pueden filtrarse. Los autores del artículo califican la inacción de amenaza para la propia supervivencia del negocio.
La IA puede acelerar tareas rutinarias, como preparar informes, y liberar tiempo de los empleados para que dediquen más atención a los clientes. Pero los agentes útiles suelen recibir amplio acceso al contexto y a la información. Cuantas más facultades tienen, más posibilidades hay de que se equivoquen o se haga un uso indebido de ellos. Un agente puede estar conectado a la contabilidad, los informes, los repositorios de documentos y el CRM, el sistema de gestión de las relaciones con los clientes. Un ataque exitoso contra él podría revelar información confidencial de los clientes.
Uno de los principales problemas es que los grandes modelos de lenguaje (LLM) no siempre distinguen los datos de las instrucciones. Un agente puede interpretar como una orden el texto de un correo electrónico, un documento o una página web, aunque lo haya redactado un atacante. Estos ataques se llaman prompt injection, o inyección de instrucciones en una solicitud: el estafador oculta una orden maliciosa entre texto aparentemente normal.
También existe el riesgo de filtración de datos. Al visitar un sitio web o buscar en internet, el agente puede transmitir accidentalmente información confidencial; por ejemplo, incluir datos de la empresa en la dirección de una página web o en una búsqueda. La información acaba en internet y puede que ni la empresa ni el propio agente se den cuenta.
Es especialmente peligrosa la combinación de tres condiciones, conocida como la «tríada mortal»: el agente recibe datos no fiables, tiene acceso a información sensible y puede actuar en sistemas externos. Una instrucción maliciosa oculta en un correo electrónico, un documento o un sitio web podría más adelante hacer que el agente actuara dentro de las facultades legítimas que le ha concedido la empresa.
Por eso, cada sistema necesita límites estrictos: a qué datos puede acceder, qué funciones tiene y qué acciones puede realizar. Es esencial para evitar filtraciones e impedir que el agente se descontrole.
La IA se está implantando en todos los departamentos, desde finanzas y marketing hasta ventas y desarrollo de productos. Según un nuevo estudio de Turbotic, el 51 % de los directivos teme que los empleados carguen datos corporativos sensibles en servicios de IA no autorizados, y al 36 % le preocupa el uso de la IA sin supervisión. Este fenómeno se denomina Shadow AI, o «IA en la sombra»: el uso de herramientas sin la aprobación ni el control oficiales de la empresa.
Si un empleado introduce datos de un cliente en un servicio público de IA, la información confidencial puede filtrarse. Además, la respuesta del sistema puede parecer convincente y ser incorrecta. El resultado pueden ser un tono de comunicación incoherente, recomendaciones inadecuadas o una filtración de datos. El problema no está solo en la tecnología, sino también en la imposibilidad de seguir su funcionamiento y de que una persona verifique el resultado. Confiar en la IA sin normas de protección es peligroso.
A menudo, los empleados ni siquiera son conscientes de los riesgos asociados a la IA. Experimentar al margen de los procesos aprobados y de las normas de protección de datos puede poner en peligro la seguridad. Facilitar información sensible a un modelo público o utilizar una respuesta sin verificar aumenta el riesgo de incumplir requisitos, generar contenido de IA de baja calidad y sufrir daños reputacionales. Al final, el empleado responde por un resultado que no puede explicar, verificar ni rastrear hasta su origen.
Se propone a los directivos que pongan la IA a disposición de los empleados y, al mismo tiempo, establezcan normas claras: qué herramientas están permitidas, cómo proporcionar a los agentes el contexto que necesitan, cómo verificar sus respuestas y qué límites evitan las filtraciones. Los autores denominan a este enfoque Organizational AI, es decir, el uso organizado de la IA en toda la empresa. En su opinión, puede mejorar la seguridad y la eficiencia del negocio.
Sin embargo, por ahora hay más advertencias que cambios reales: según un informe del Foro Económico Mundial y Accenture, menos del 1 % de las organizaciones ha implantado plenamente prácticas de uso responsable de la IA. Ante una utilización libre y sin control de la IA, una política de uso responsable se ha vuelto imprescindible.
Sin límites básicos de acceso, los empleados pueden obtener con ayuda de la IA información que no deberían ver, como los sueldos de sus compañeros o información confidencial de los inversores. Un agente conectado a los datos corporativos amplifica las consecuencias de unos permisos débiles y puede descubrir información a la que se le concedió acceso por error.
Cualquier uso de la IA relacionado con datos de la empresa, la comunicación con clientes o las recomendaciones profesionales debe regirse por normas claras. Los directivos están obligados a establecer límites transparentes y verificables. Hay que empezar por instrucciones claras sobre qué herramientas pueden utilizarse, cuándo y de qué manera. Después hacen falta explicabilidad, control y supervisión de la IA: las condiciones sobre las que se construye la confianza.
Es importante que las empresas determinen y comuniquen a sus empleados a qué datos puede acceder la IA, de dónde procede la información de entrada, con qué sistemas está conectada, qué acciones tiene permitidas y en qué casos una persona debe revisar o aprobar el resultado. Estos requisitos no solo deben describirse, sino también incorporarse a los procesos de trabajo.
Organizational AI es un sistema de uso de la IA en toda la organización que puede evolucionar con la empresa para mejorar la experiencia del cliente, desarrollar el equipo y gestionar la seguridad. Se propone empezar ya: según el autor, para una empresa el riesgo de no actuar es mayor que el de implantar la IA de forma imperfecta.
Artículo preparado para la sección TechRadar Pro Perspectives, que publica opiniones de especialistas del sector tecnológico. Las opiniones expresadas pertenecen al autor y pueden no coincidir con la postura de TechRadar Pro o Future plc.
PEREC.RU
La IA corporativa tiene una virtud poco común: convierte una vieja costumbre de los directivos —repartir permisos y luego sorprenderse de las consecuencias— en un proceso de alta velocidad y con una interfaz muy elegante. Antes, los secretos se filtraban por descuido humano. Ahora se pueden confiar a un agente que no distingue una instrucción de una trampa, pero actúa con unas facultades concedidas con todas las de la ley.
En público, las empresas prometen eficiencia y liberar a los empleados de las tareas rutinarias. En la práctica, a menudo compran comodidad a cambio de ampliar los permisos y dejan la seguridad para más adelante: ese «más adelante» donde suelen acumularse los reglamentos sin leer y la esperanza de que «a nosotros no nos pasará». Naturalmente, el culpable será el empleado de a pie que utilizó la herramienta disponible, no quien configuró el sistema sin límites.
Aquí resulta especialmente útil el término Shadow AI: suena casi al nombre de una orden secreta, aunque a menudo solo significa que no hay un servicio autorizado ni normas claras. Prohibirlo todo es más fácil que organizar el trabajo. Pero los empleados no dejan de usar la IA por eso: simplemente dejan de hablar de ello, y el control se convierte en un cartel decorativo en la puerta.
La cifra de menos del uno por ciento de organizaciones que han implantado plenamente prácticas de IA responsable no parece un misterio tecnológico, sino un género conocido de la vida corporativa: las presentaciones ya están en el futuro y los procesos siguen en borrador. Primero se conecta el sistema a los datos y después se debate quién debía haber definido los límites de acceso. A veces, en esa secuencia participa un proveedor vinculado por accidente; otras, basta con la fe eterna en que la configuración predeterminada la diseñaron personas con un impecable instinto de supervivencia.
Por eso, pedir que se establezcan normas no es un intento de ahogar la innovación en burocracia. Es una propuesta para dejar de tratar la seguridad como un complemento opcional del producto, que se puede instalar después de la primera filtración. Hay que decidir de antemano qué ve la IA, qué puede hacer y dónde debe detenerse, en lugar de esperar a que cumpla diligentemente las instrucciones de otro.
Eso sí, las normas no se aplican solas. Se pueden redactar, aprobar, adornar con un diagrama y mandar al archivo: la cultura corporativa sabe convertir hasta el sentido común en un documento para cubrir el expediente. Solo funcionan las limitaciones incorporadas a los procesos, la revisión humana y la responsabilidad de los directivos por quién recibe acceso y para qué.
En definitiva, el debate no es si la IA formará parte del negocio: ya está ahí, a menudo sin acreditación ni invitación oficial. La cuestión es si la empresa va a gestionar este sistema o seguirá dándole las llaves confiando en el buen juicio del algoritmo. La esperanza es un recurso de gestión magnífico, sobre todo si no hay que explicar a los clientes por qué sus datos han acabado formando parte de una solicitud ajena.
