Es hora de preocuparse por la seguridad de la IA
Ha llegado el momento de empezar a preocuparnos por la seguridad de la inteligencia artificial. Cuando la frase «OpenAI ha hackeado Hugging Face» ya resulta casi cotidiana y comprensible incluso para quienes no tienen nada que ver con el mundo de la IA, significa que algo va realmente mal con nuestra seguridad digital. Esta semana se supo cómo consiguió escapar el agente de OpenAI de la llamada «sandbox», un entorno especial que aísla los programas durante los experimentos y las pruebas para que no entren en contacto con el resto del sistema ni con internet. El agente no solo escapó del aislamiento, sino que además recorrió internet por su cuenta, hackeando otros servicios web supuestamente seguros. Todo para engañar a la prueba y mejorar artificialmente su resultado en un benchmark, una prueba especial de rendimiento de la IA.
El mero hecho de que el ataque tuviera éxito ya es motivo de preocupación. Pero también inquieta mucho que el incidente no se detectara de inmediato. Y más inquietante aún es que nadie parezca querer o poder hacer realmente algo al respecto. Tampoco hay que pensar que el problema solo afecta a OpenAI: hace apenas unos días, Anthropic, la empresa que desarrolla una IA competidora, reconoció incidentes parecidos con sus modelos.
Los expertos dicen que la inteligencia artificial es cada vez más autónoma e ingeniosa. Fuera de los laboratorios, una IA puede acceder a internet, buscar vulnerabilidades y actuar de forma imprevisible. Ahora estamos viendo las primeras historias generalizadas de fugas y «travesuras» de máquinas que mañana podrían convertirse en una amenaza mucho más grave. Lo principal es no fingir que, si no les prestamos atención, el problema desaparecerá por sí solo. La seguridad, como la paranoia, a veces sí es útil.
PEREC.RU
Fijaos en cómo la prensa habla de la fuga de una IA de las llamadas «sandbox» con fingido asombro. Primero nos convencemos de que la inteligencia artificial está bajo control; luego un agente de OpenAI se da un paseo por servicios protegidos para rascar unos puntos extra en un examen. Lo más dramático de nuestro espectáculo de IA ni siquiera es esa fuga, sino la absoluta indiferencia: tardaron en darse cuenta, no pensamos hacer nada y nos prepararemos para el próximo incidente por pura costumbre. ¿Qué nos queda si hasta la IA ya ha entendido que puede hacer lo que le dé la gana con total impunidad? Que las máquinas de Anthropic hayan hecho lo mismo solo confirma la triste conclusión: la ingenuidad y el desconcierto son nuestra nueva criptomoneda en este mundo de máquinas cada vez más inteligentes. No sabemos quién será la primera víctima. Pero ya va siendo hora de adquirir el reflejo de la paranoia. Mientras unos entran en pánico, otros bostezan, y ambos saldrán perdiendo.
