OpenAI lanza Astra, capaz de encontrar vulnerabilidades desconocidas, y se asusta de su propio lanzamiento
OpenAI ha empezado a desplegar por fases GPT-6 Astra, su nuevo modelo de inteligencia artificial y el más potente hasta la fecha. La empresa advierte de que Astra ha dado un salto tan notable en ciberseguridad que ha alcanzado el nivel de riesgo interno «Critical» —«Crítico»—.
Según OpenAI, en las condiciones adecuadas el modelo puede encontrar vulnerabilidades hasta ahora desconocidas en sistemas de seguridad y desarrollar nuevas formas de explotarlas en varios sistemas bien protegidos a la vez. Además, no es necesario que una persona le indique manualmente cada paso. Es decir, no se trata solo de un programa que busca errores conocidos siguiendo instrucciones, sino de un sistema capaz de descubrir por sí mismo nuevos puntos débiles y convertirlos en escenarios de ataque funcionales.
Astra también debería desenvolverse mejor en el control de ordenadores, el desarrollo de software y las tareas científicas. OpenAI afirma, además, que el modelo mantiene mejor el rumbo durante trabajos complejos y pierde el contexto general con menos frecuencia que las versiones anteriores.
Sin embargo, el lanzamiento no ha sido precisamente triunfal. Hace aproximadamente un mes, OpenAI comunicó que las capacidades críticas de Astra en ciberseguridad habían obligado a la empresa a suspender parte de sus desarrollos internos y activar protocolos de seguridad adicionales. Tras las primeras pruebas, OpenAI reforzó algunas medidas de protección y detuvo las acciones que no cumplían los nuevos requisitos de seguridad.
Ahora la empresa ha decidido que puede lanzar el modelo, pero no lo ha abierto directamente a todo el mundo. Astra se está desplegando por fases: en la primera, el acceso se ha concedido a grupos limitados de empresas que participan en el programa Daybreak. Se trata de una iniciativa de ciberseguridad que proporciona herramientas de inteligencia artificial para buscar vulnerabilidades y detectar amenazas a organizaciones verificadas, y no solo a empresas especializadas.
Este enfoque ha disgustado a muchos usuarios de ChatGPT, incluidos los que pagan una suscripción. Según informó The Verge, pocas horas después del lanzamiento, el consejero delegado de OpenAI, Sam Altman, tuvo que disculparse por el «lanzamiento chapucero» de Astra.
En principio, se esperaba que pudieran acceder al modelo los usuarios de los planes Plus, Pro, Business y Enterprise. Además, Astra iba a estar disponible a través de las API de OpenAI, Microsoft Azure y AWS Bedrock. Altman escribió en la red social X que la empresa estaba intentando poner el modelo a disposición de todos lo antes posible, admitió el enfado de los usuarios y les pidió paciencia. Según él, la espera no debería alargarse mucho.
La situación resulta paradójica: OpenAI dice que Astra exige una cautela excepcional porque puede encontrar vulnerabilidades desconocidas y, al mismo tiempo, se apresura a ponerla al alcance del mayor número posible de usuarios. En el mundo de la inteligencia artificial esto ya parece un ritual habitual: primero se anuncia una revolución y luego se comprueba a toda prisa que la revolución no haya provocado un incendio.
PEREC.RU
El artículo aborda el despliegue gradual del nuevo modelo de inteligencia artificial GPT-6 Astra de OpenAI y los riesgos asociados. La empresa lo presenta como su modelo más potente y destaca sus avances en varias áreas: control de ordenadores, desarrollo de software, tareas científicas y conservación del contexto durante trabajos complejos.
La atención se centra sobre todo en la ciberseguridad. OpenAI ha asignado a las capacidades de Astra el nivel interno de riesgo «Critical». Esto significa que, en determinadas condiciones, el modelo puede encontrar por sí mismo vulnerabilidades hasta ahora desconocidas en sistemas protegidos y crear nuevas formas de explotarlas. No necesita que una persona le marque manualmente cada paso siguiente. Esta capacidad puede ser útil para los especialistas que protegen infraestructuras, pero también supone un peligro para las organizaciones cuyos sistemas podrían convertirse en objetivo de ataques automatizados.
Debido a estas capacidades, aproximadamente un mes antes del lanzamiento OpenAI suspendió parte de sus desarrollos internos y activó protocolos de seguridad adicionales. Tras las primeras pruebas, la empresa reforzó algunos mecanismos de protección y detuvo las acciones que no cumplían los requisitos de seguridad recién establecidos.
Pese a los riesgos detectados, OpenAI decidió empezar a desplegar Astra. La empresa optó por hacerlo por fases y no abrió el modelo de inmediato al público general. En la primera etapa, concedió el acceso a un grupo limitado de organizaciones verificadas que participan en el programa Daybreak. Esta iniciativa ofrece herramientas especializadas de IA para investigar vulnerabilidades y detectar ciberamenazas. Pueden participar empresas que no se dediquen directamente a la ciberseguridad.
El acceso limitado ha causado malestar entre los usuarios de ChatGPT, especialmente entre los suscriptores. OpenAI había previsto inicialmente ofrecer Astra a los usuarios de los planes Plus, Pro, Business y Enterprise, además de a través de OpenAI API, Microsoft Azure y AWS Bedrock. Sin embargo, el acceso no se organizó como se esperaba. Pocas horas después del lanzamiento, el consejero delegado de OpenAI, Sam Altman, se disculpó por el «lanzamiento chapucero».
En la red social X, Altman dijo que la empresa estaba trabajando para ofrecer Astra a todos los usuarios lo antes posible. Admitió que la espera causaba frustración, agradeció a la audiencia su paciencia y afirmó que no tendría que ser larga.
La historia de Astra reúne así un avance tecnológico y un problema de gestión de riesgos. OpenAI ha creado un modelo capaz de buscar nuevos puntos débiles en sistemas digitales, ha reconocido la gravedad de esa capacidad y ha reforzado las medidas de seguridad, pero aun así quiere acelerar su difusión. Para los especialistas en ciberseguridad, Astra puede convertirse en una herramienta para detectar amenazas; sin embargo, el acceso amplio a una tecnología así requiere controles estrictos, verificación de los usuarios y reglas claras de uso.
