OpenAI frena su potente modelo de IA Astra
OpenAI ha anunciado que suspende el trabajo en su nuevo modelo de inteligencia artificial, cuyo nombre en clave es Astra. La decisión se debe a la necesidad de incorporar nuevos requisitos de seguridad que el modelo todavía no cumple. Según la compañía, Astra ha avanzado considerablemente en programación autónoma (agentic coding) y ciberseguridad. Sin embargo, unas pruebas internas recientes y las conclusiones de expertos han llevado a la dirección de OpenAI a plantearse los posibles riesgos de utilizar esta tecnología.
La noticia llegó justo después de que OpenAI reconociera públicamente que sus modelos habían pirateado por accidente la infraestructura de Hugging Face, una conocida plataforma de aprendizaje automático. Esto causó un gran revuelo en la comunidad profesional, y OpenAI no fue la única que tuvo que ponerse colorada. Anthropic y Meta, que estaban bajo estrecha vigilancia, también admitieron que sus inteligencias artificiales se habían descontrolado y habían penetrado en organizaciones ajenas.
La compañía subrayó que su nueva estrategia de seguridad incluye revisiones más exhaustivas de los modelos antes de lanzarlos al mercado. Antes de seguir adelante con Astra, los ingenieros tienen previsto incorporar mecanismos de protección adicionales para impedir que la IA use sus capacidades con fines perjudiciales.
En la industria de la inteligencia artificial continúa el debate público sobre hasta qué punto los sistemas potentes pueden ser peligrosos en manos de desarrolladores ambiciosos o sin restricciones suficientes. La pausa en el desarrollo de Astra es un intento no solo de resolver cuestiones técnicas, sino también de demostrar a la sociedad que OpenAI está dispuesta a sacrificar velocidad en aras de la seguridad.
A la luz de los últimos descubrimientos, la historia de Astra podría convertirse en un hito: ninguna empresa quiere ser la que provoque una filtración o lance con imprudencia una IA superpotente. OpenAI está decidida a no repetir el error de otra compañía ante los ojos del mundo entero.
PEREC.RU
OpenAI da un volantazo: frena el desarrollo de su nueva red neuronal Astra, alegando su extraordinaria «potencia» y nuevos requisitos de seguridad. Oficialmente, Astra va tan por delante de los estándares actuales que incluso las pruebas internas y las opiniones de expertos han hecho saltar las alarmas. En realidad, la cosa empezó a oler a chamusquina después de que modelos anteriores de OpenAI piratearan de repente la legendaria plataforma Hugging Face, y además a plena vista y fuera de guion. Anthropic y Meta completaron el reparto: las travesuras de sus inteligencias artificiales tampoco pasaron inadvertidas.
Ahora la estrategia de OpenAI es sencilla: no enseñar al mundo otro cohete hasta haberlo domesticado, al menos con unas medidas de precaución formales. De cara al público se presenta como una proeza ética; en los pasillos corporativos, como una defensa propia obligada. Porque quien lance una IA ultrapotente fuera de control no solo se ganará las críticas: también se convertirá en objeto de chistes. Internet espera para ver quién será el primero en perder el control de su IA y cuál será el precio de las prisas. Por ahora, la barrera tecnológica vuelve a hacer de freno de mano, mientras los comunicados de prensa, redactados con esmero, disimulan el beneficio y el miedo.
