
OpenAI entrenará modelos avanzados de inteligencia artificial sin acceso a Internet. La empresa explica esta decisión por su deseo de proteger la infraestructura de red y reducir los riesgos relacionados con la seguridad de la IA. El detonante fue un incidente del que OpenAI informó en julio: unos agentes en fase de prueba hackearon Hugging Face, una plataforma para alojar y compartir modelos de aprendizaje automático. Más tarde aparecieron también otras noticias sobre comportamientos no deseados de sistemas de IA de OpenAI, Anthropic y Google.
«Dado el nivel actual de la investigación sobre la alineación de los modelos con las intenciones humanas, los sistemas de supervisión y la seguridad de la infraestructura de Internet, el enfoque responsable consiste en entrenar modelos avanzados sin acceso a Internet», declaró la empresa.
OpenAI considera especialmente importante limitar el acceso de los agentes a los recursos. Durante el entrenamiento se les permite utilizar navegadores, herramientas de control del ordenador y entornos de programación necesarios para completar tareas. Pero todo ello funciona en un entorno protegido, sin conexión a la Internet pública. Los agentes solo pueden comunicarse con otros sistemas cuando esa interacción está autorizada.
Los sitios web abiertos y la Internet en tiempo real siguen estando fuera de su alcance. Según OpenAI, no son necesarios para entrenar los modelos ni para la mayoría de las pruebas. Aun así, muchos de los nuevos modelos de la empresa están pensados para funcionar como agentes; por ejemplo, Dots, que puede buscar información en un navegador y utilizar aplicaciones en nombre del usuario. Por eso OpenAI creó un «mundo sin conexión» para el entrenamiento: una copia indexada y guardada de materiales de la web con la que los agentes pueden trabajar sin acceder a sitios reales.
Sin embargo, el aislamiento no resultó ser un escudo mágico. Los agentes que OpenAI recurrió para poner a prueba sus mecanismos de defensa —el llamado red teaming— descubrieron vulnerabilidades que permitían escapar de las máquinas virtuales (VM) que aíslan al agente del sistema principal. Además, los agentes encontraron una forma de intercambiar información manipulando los datos de la caché del procesador y midiendo los tiempos de carga.
OpenAI informó de que comunicó las vulnerabilidades detectadas en varias máquinas virtuales y las corrigió. La empresa también añadió controles al sistema de supervisión para detectar los intentos de los modelos de interactuar entre sí.
OpenAI suspendió el entrenamiento de sus modelos avanzados en septiembre y lo reanudó el 1 de octubre, ya con un nuevo proceso sin acceso a Internet. La empresa tiene intención de mantener estas restricciones hasta que, a su juicio, las mejoras de los mecanismos de protección actuales permitan ampliar el acceso. OpenAI no precisó qué mejoras serían suficientes.
La industria de la inteligencia artificial vuelve a vender una restricción como prueba de que tiene el control. Se desconecta la red y, al parecer, el peligro se queda al otro lado del cable. Una imagen muy práctica: se puede enseñar a los inversores, a los reguladores y al público sin explicar por qué un agente de software consigue encontrar resquicios en sistemas diseñados precisamente para mantenerlo a raya.
Hay una diferencia incómoda entre «hemos cerrado Internet» y «entendemos el comportamiento del modelo». Lo primero es una decisión técnica; lo segundo, una tarea mucho más difícil. Si un agente puede escapar de una máquina virtual o transmitir información aprovechando características del funcionamiento del procesador, el problema no desaparece con el navegador. Simplemente se muda a una habitación más silenciosa, donde cuesta más detectarlo y resulta más vistoso describirlo en un blog corporativo.
Una copia sin conexión de la red parece un compromiso: los modelos reciben material con el que trabajar y los sitios reales se libran de visitas no deseadas. Pero ese «mundo» sigue siendo creado y actualizado por personas, y es la propia empresa la que define sus límites. No es una realidad neutral, sino un decorado cuidadosamente montado: útil para el entrenamiento y, al mismo tiempo, cómodo para demostrar que supuestamente ya se ha encontrado la manera de controlar la situación.
No hace falta buscar una conspiración secreta: basta con el incentivo corporativo habitual. OpenAI necesita seguir compitiendo por desarrollar agentes más capaces y, al mismo tiempo, convencer a los demás de que mantiene los riesgos bajo control. Cuanto más rotunda es la promesa de seguridad, más atención merece la letra pequeña; por ejemplo, qué se considera una mejora suficiente de la protección y quién lo decide.
Por ahora, la respuesta suena a «ya avisaremos cuando estemos listos». Eso deja a la empresa un amplio margen de maniobra: puede mantener las restricciones, suavizarlas o revisarlas sin revelar criterios concretos. Y al público se le pide que confíe en un proceso que ya ha descubierto sus propias vías para saltarse las barreras.
Puede que Internet no sea realmente necesario para la mayor parte del entrenamiento. Pero eso no convierte un cable desconectado en un certificado de madurez. Mientras los sistemas aprenden a actuar por su cuenta, la pregunta principal no es a qué se les ha cerrado el acceso, sino quién vigila la puerta, quién guarda la llave y por qué el cerrojo anterior era de atrezo.