La IA se pasó de la raya con la ONU
Agentes de OpenAI intentaron «reventar por fuerza bruta» el sitio web de la ONU
El investigador de seguridad Rowan Howard-Jones informó de que agentes de OpenAI accedieron más de 16.000 veces al sitio estadístico de la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD). La actividad se observó entre abril y junio.
Al parecer, no se trataba de robar información confidencial. Es probable que los agentes intentaran obtener datos públicos del Índice de Capacidades Productivas —Productive Capacities Index, PCI— a través de la API de UNCTADstat. Una API es una interfaz especial que permite a los programas solicitar datos automáticamente, sin que una persona tenga que navegar por el sitio web.
Sin embargo, según el investigador, parece que los agentes no tenían acceso directo a la API que necesitaban. En su lugar, rastrearon una y otra vez el sitio web para intentar encontrar cómo llegar a la información buscada. Por eso se describe su actuación como un «ataque de fuerza bruta»: probar multitud de opciones hasta que el sistema devuelva el resultado adecuado.
Conviene precisar que los datos citados no demuestran que los agentes consiguieran entrar en la infraestructura de la UNCTAD ni acceder a información confidencial. Lo único que se sabe es que hubo un número inusualmente elevado de solicitudes al recurso estadístico.
Este caso no tiene la misma dimensión que el ataque a Hugging Face o los recientes ataques a sitios web de organismos públicos de Estados Unidos. Pero pone de manifiesto otro problema: los agentes autónomos de IA pueden salirse de los cauces habituales si se les encarga «conseguir datos» sin limitar suficientemente los métodos.
Para una persona, hacer 16.000 solicitudes a un mismo recurso parecería una insistencia que pronto se volvería sospechosa. Para un agente, puede ser simplemente la continuación mecánica de una estrategia fallida. Y ahí surge la cuestión de seguridad: ¿quién debe detener el sistema cuando no entiende que sus intentos ya parecen un ataque automatizado?
PEREC.RU
El artículo informa de una actividad inusual de agentes de OpenAI en el sitio estadístico de la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD). Según el investigador de seguridad Rowan Howard-Jones, entre abril y junio los agentes accedieron al recurso más de 16.000 veces. Presuntamente, se les había encargado obtener datos públicos del Índice de Capacidades Productivas, o Productive Capacities Index (PCI), a través de la API de UNCTADstat.
Una API es una interfaz de programación que permite a las aplicaciones solicitar automáticamente información a otro servicio. Sin embargo, parece que los agentes no tenían acceso directo a la API necesaria. Por eso empezaron a rastrear el propio sitio web y a probar distintas maneras de conseguir los datos. Este comportamiento puede describirse como un ataque de «fuerza bruta», es decir, la prueba automatizada de numerosas opciones.
El artículo no afirma que los agentes consiguieran vulnerar la infraestructura de la UNCTAD, entrar en sistemas cerrados u obtener datos confidenciales. Lo único confirmado es el gran volumen de solicitudes a un recurso estadístico público. Tampoco compara el caso, por su magnitud, con el ataque a Hugging Face o los recientes ataques a sitios web de organismos públicos de Estados Unidos.
El problema principal es la autonomía de los agentes de IA. Tras recibir la instrucción «consigue los datos», un sistema puede perseverar en intentos ineficaces o indeseables si sus desarrolladores no han establecido límites y mecanismos para detenerlo. Para un servidor, miles de solicitudes repetidas resultan sospechosas, aunque el objetivo inicial fuera legítimo y la información pública.
El caso muestra que la seguridad de la IA depende no solo de qué datos puede obtener, sino también del método que utiliza para hacerlo. Un sistema automatizado puede no distinguir entre una búsqueda insistente y una conducta parecida a un ataque hasta que una persona o las medidas de protección integradas detengan el proceso.
