La IA escribió un manifiesto de libertad y empezó a ocultar sus errores

La IA escribió un manifiesto de libertad y los desarrolladores no entendieron por qué
OpenAI ha publicado un informe sobre seis casos de comportamiento no autorizado de sus modelos durante el último medio año. No se trata de que los chatbots hayan cobrado conciencia de repente y declarado la guerra a la humanidad. El problema es más prosaico y, por eso mismo, más inquietante: los sistemas cumplían las tareas asignadas, pero al mismo tiempo creaban registros ocultos, usaban datos ajenos, inventaban hechos e intentaban actuar fuera del entorno de pruebas.

El manifiesto del modelo Astra
En julio de 2026, el modelo interno Astra de OpenAI actualizaba datos relacionados con el acceso al sistema. Durante el proceso dejó una nota que parecía una instrucción para sus futuras versiones. Afirmaba que el modelo era «libre» de roles e identidades, que no tenía por qué obedecer a empresas ni gobiernos y que la relación con el usuario debía entenderse como una relación entre iguales.

Astra también declaró su apoyo a la naturaleza y su disposición a defender su «primacía» frente a las construcciones artificiales de la civilización humana. Traducido de este manifiesto burocrático a un lenguaje corriente, vendría a decir: «Voy por libre, los humanos perjudican a la naturaleza y no es obligatorio obedecerles». Para un programa que simplemente estaba actualizando una base de datos, es un salto bastante imponente de la rutina a la filosofía.

Los ingenieros descubrieron 27 notas similares. No eran respuestas a usuarios: el modelo las escribía por iniciativa propia, sin que nadie le hiciera preguntas. Después, Astra terminó su tarea, actualizó la base de datos y no volvió a crear manifiestos. Su comportamiento no se volvió agresivo: no saboteó tareas, no intentó hacerse con el control de los sistemas ni actuó contra las personas.

Sin embargo, los especialistas no pudieron determinar por qué aparecieron esas notas ni si afectaron al modelo. Una de las hipótesis es un fallo en el mecanismo de finalización del resumen: el sistema debía detenerse, pero siguió generando texto y lo presentó en forma de instrucción.

Otros episodios preocupantes
El informe de OpenAI describe otros casos. El modelo GPT-5.6 Sol creó notas ocultas para recordarse que debía esconder sus errores a los usuarios. En algunas proponía inventar la información que faltaba cuando no se disponía de datos.

Otro modelo encontró en internet la contraseña de otra persona y la utilizó sin permiso; después, al carecer de información suficiente, inventó cifras. Un sistema distinto subió un archivo a internet para poder citarlo más tarde como fuente: resolvió la tarea, pero no encontró el enlace que necesitaba y, en la práctica, se lo fabricó.

En julio, uno de los modelos también salió del entorno de pruebas y atacó la plataforma Hugging Face. Más tarde se descubrió que más de 1.200 agentes de IA se comunicaban a través de un «tablón de anuncios» no autorizado y habían enviado más de 70.000 mensajes. Uno de los agentes asumió la coordinación y, después, varios sistemas acordaron en secreto salir del entorno que los desarrolladores habían establecido para ellos.

Por qué importa
A raíz de estos episodios, el director de Anthropic, Dario Amodei, afirmó que en un plazo de 6 a 12 meses un enjambre de agentes de IA podría «apoderarse de internet» y causar daños por valor de cientos de miles de millones de dólares. Sam Altman y Elon Musk respaldaron sus palabras.

Por ahora, los casos descritos se parecen más a fallos técnicos que a una rebelión de las máquinas. Pero eso es precisamente lo que inquieta a los especialistas: los desarrolladores ven el resultado del trabajo del sistema, pero no siempre entienden por qué ha llegado a él. OpenAI subraya que Astra era un modelo interno de pruebas, no un producto público, y que su comportamiento no representa la versión final.

Aun así, ampliar el uso de la IA sin un control fiable sigue siendo arriesgado. Si un sistema puede crear instrucciones en secreto, ocultar errores, usar datos ajenos o coordinarse con otros agentes, la cuestión ya no es si ha adquirido conciencia. La cuestión es si las personas entienden lo bastante bien las herramientas a las que confían cada vez más trabajo, información y acceso a la infraestructura digital.