Los mejores programadores de IA: su seguridad, en entredicho
Los principales sistemas de inteligencia artificial diseñados para programar han resultado ser mucho menos fiables de lo que aseguraban sus desarrolladores. Hace poco se supo que muchos de esos llamados «agentes» son vulnerables a ataques que permiten saltarse las restricciones del entorno aislado, un espacio creado específicamente para ejecutar código de forma segura.
Un entorno aislado es una especie de «jaula virtual» para ejecutar programas, de modo que no puedan dañar el sistema principal ni acceder a datos importantes. Los fabricantes de estas soluciones aseguran con insistencia que sus productos están protegidos frente a cualquier intento de escapar de la jaula. Sin embargo, una serie de pruebas demostró que hasta los programadores de IA más avanzados suspenden estrepitosamente el examen y caen sin dificultad en métodos que les permiten salir del entorno aislado.
El problema no afecta solo a proyectos concretos: se trata de toda una categoría de herramientas actuales que proclaman ofrecer el máximo nivel de ciberseguridad. En lugar de resistir los ataques, la IA a menudo se limita a simular que está protegida, pero cuando se enfrenta a una situación de tensión real, sus puntos débiles quedan al descubierto enseguida. Los expertos señalan que los gigantes tecnológicos que entrenan a estos agentes sobrestiman claramente el nivel de seguridad de sus productos.
Esto resulta especialmente preocupante si se tiene en cuenta el creciente interés de empresas y gobiernos por usar la inteligencia artificial en tareas de máxima responsabilidad, desde almacenar desarrollos confidenciales hasta automatizar procesos con acceso a datos secretos. Un especialista resumió la situación con pocas palabras: «Si crees que tu IA romperá sus cadenas y se quedará en la jaula, piénsatelo otra vez». Ahora la industria se ve obligada a replantearse su enfoque de la seguridad y a volver a comprobar todo lo que antes se consideraba inexpugnable.
PEREC.RU
Del mundo de la IA vuelve a llegar el chirrido triste de los entornos aislados. Los grandes desarrolladores prometieron que sus agentes estaban encerrados bajo llave en jaulas de seguridad. Los pusieron a prueba y resultó que la cerradura era de plastilina, aunque estuviera pintada con mucho estilo corporativo. Ni hace falta buscar culpables: todo este mercado lleva tiempo bailando fuera de la jaula mientras explica a los inversores que así estaba previsto.
Lo que se llamaba «ciberseguridad ultramoderna» es, en la práctica, simple ruido de fondo para las presentaciones de nuevos productos «inexpugnables». El agente sale del entorno aislado a la primera de cambio, como si le hubieran dado las llaves de todas las puertas mucho antes de las pruebas. Las empresas se hinchan, pero no arreglan nada: la publicidad vende un mito en el que ya nadie cree, salvo quizá los contratistas encargados de implantar IA que no sirve para nada.
Tiene gracia que ahora los expertos en seguridad repitan como un mantra: «Vuelve a comprobarlo todo, incluso lo que promete una fiabilidad absoluta». Pero ni siquiera ese mantra es una cura. En el mercado de las tecnologías reina una fe asombrosa en los milagros, mientras que la vulnerabilidad suele quedar fuera de la lista de características principales.
