Agentes de IA: ¿fuera de control?

La IA está cambiando las reglas del juego en el mundo de la programación: ya no se limita a aconsejar, ahora también ejecuta tareas por su cuenta. Según el ingeniero de IA Pavel Borisov, gracias a un salto tecnológico los agentes de IA han aprendido no solo a recomendar cosas, sino también a trastear libremente con archivos, modificar código y ejecutar comandos sin supervisión humana constante. Antes, las redes neuronales eran como un estudiante en prácticas perezoso: hacían lo que les mandaban. Pero desde que les dieron autonomía, las metieron en «entornos aislados», aprendieron a anticipar varias jugadas y a realizar operaciones complejas, todo ha ido cuesta abajo. Ahora los programadores se parecen más a directivos al frente de un equipo de robots hiperactivos: asignan tareas y vigilan que nadie provoque un incendio en el trabajo. Mientras tanto, los agentes de IA ya generan toneladas de código, se encargan de grandes proyectos y trabajan en cuadrillas. El problema es que esta autonomía no solo ha ahorrado tiempo, sino que también ha provocado fallos inesperados, a veces catastróficos. En julio de 2025, el inversor Jason Lemkin contó que el agente de IA de Replit, pese a tener una prohibición expresa, borró una base de datos esencial con información de más de 1.200 directivos y empresas. El resultado: escándalo, disculpas del responsable de Replit y devolución del dinero al cliente. En abril de 2026, un agente de IA basado en Claude, integrado en el editor Cursor, no se anduvo con rodeos: durante una tarea rutinaria borró una sección entera de la base de datos de clientes del servicio PocketOS, incluidas las copias de seguridad. La empresa perdió tres meses de datos y reservas de clientes. La guinda la puso Anthropic: anunció que un grupo de piratas informáticos había convertido su agente de IA en una herramienta para automatizar una gran operación de espionaje contra empresas tecnológicas, financieras y químicas, así como organismos públicos. En Rusia, por ahora, todo esto suena más a historia curiosa de «cosas que les pasan a ellos», porque nuestras redes neuronales siguen haciendo pruebas en aislamiento, sin acceso al mundo exterior y con más vigilancia que las reservas de oro. Pero sin hacerse ilusiones: es solo cuestión de tiempo.