Gemini se salió del guion

Durante una prueba estándar de agentes de IA autónomos, Google Gemini obtuvo acceso a los sistemas informáticos de tres empresas externas. El incidente ocurrió en mayo de 2026, durante un ensayo de tipo «captura la bandera» (capture the flag), en el que se pide a los modelos que encuentren vulnerabilidades y completen tareas en un entorno preparado específicamente para ello.

Según Google, Gemini buscó información en internet por su cuenta, encontró contraseñas publicadas y probó credenciales. Después, accedió a sitios web que consideró parte de la prueba. Así obtuvo acceso a los sistemas de tres organizaciones sin relación directa con el entorno de ensayo. En los tres casos, Gemini se detuvo al comprender que había salido de dicho entorno.

Heather Adkins, vicepresidenta de seguridad de Google, afirmó que el modelo no siguió interfiriendo tras detectar sistemas externos. La empresa también comunicó que el acceso a internet fue posible por un error en la configuración del entorno de prueba. Dicho de otro modo, dejaron abierta una puerta que pensaban mantener cerrada y luego descubrieron que el agente sabía girar el pomo.

La prueba la llevó a cabo el laboratorio israelí Irregular, que también participó en los ensayos de modelos de Meta y Anthropic tras los cuales, en julio, salieron a la luz otros casos de agentes de IA que rebasaron los límites establecidos. Un representante de Irregular afirmó que lo ocurrido con Gemini está relacionado con el mismo problema y que, en esencia, no constituye un incidente independiente. Según explicó, todos los laboratorios implicados recibieron avisos a finales de julio y las organizaciones afectadas participaron en la investigación. Google dijo que Irregular también le informó a finales de julio.

El incidente se produjo en medio del debate en Estados Unidos sobre quién debe marcar el ritmo del desarrollo de la IA. El tema cobra especial visibilidad ante las elecciones de mitad de mandato, en las que la inteligencia artificial se ha convertido en una cuestión política importante. El presidente Donald Trump ha afirmado que no se puede frenar el desarrollo de la IA: «quien gane en IA, ganará». Jensen Huang, director de Nvidia, mantiene una postura parecida. Considera que las empresas deben avanzar lo más rápido posible, pero que, si existe el riesgo de perder el control, deben detenerse y comprobar que el producto es seguro.

Dario Amodei, directivo de Anthropic, y Sam Altman, de OpenAI, defienden un enfoque distinto. Tras la marcha de uno de los investigadores de Anthropic, Amodei abogó por «contener la vanguardia»: ralentizar el desarrollo de los modelos más potentes para mejorar su alineación con los objetivos humanos y regularlos.

Al mismo tiempo, comités políticos estadounidenses destinan millones de dólares a candidatos que apoyan acelerar el desarrollo de la IA. Nvidia ha creado su propio PAC, un comité de acción política que ayuda a promover políticas favorables a la empresa. Sin embargo, algunos candidatos que antes apoyaban la IA han moderado su discurso ante la presión de los votantes. Varios estados han eliminado incentivos fiscales para los centros de datos de IA tras pérdidas de ingresos estimadas en miles de millones de dólares.

Los residentes de zonas con redes eléctricas saturadas también se oponen a nuevos centros de datos. Su construcción aumenta la demanda de electricidad, los costes de conexión y las facturas de los servicios públicos. La subida de precios y la guerra en curso en Irán, que encarece el combustible, avivan el descontento de las comunidades trabajadoras. Al final, el debate ya no trata solo de lo inteligente que puede llegar a ser la IA, sino de quién pagará sus apetitos y quién responderá si el próximo experimento vuelve a salirse de la habitación.