Programación con IA: el problema es la confianza, no la velocidad

La industria de la inteligencia artificial (IA) afronta un nuevo reto. Esta vez no se trata de la carrera por conseguir los mejores modelos, de la escasez de GPU ni de construir centros de datos. La cuestión del momento es cómo se está replanteando la propia IA en nuestro mundo.

En los últimos años, los desarrolladores han recurrido activamente a asistentes de programación con IA, que prometen un aumento espectacular de la productividad al reducir el tiempo necesario para escribir, depurar y probar código. Pero, tras la compra de la plataforma de programación con IA Cursor por parte de SpaceX —sí, la misma empresa de Elon Musk que lanza al espacio no solo cohetes, sino también software—, ha quedado claro que estas herramientas no son un simple juguete para desarrolladores, sino una base estratégica para los sistemas autónomos del futuro.

La automatización ya no consiste solo en ayudar a los programadores. La IA debe generar, corregir y mantener por sí misma el software que gestiona infraestructuras, logística y procesos empresariales. Los «asistentes» de IA actuales ya se están convirtiendo en la base para construir y controlar los sistemas informáticos de las empresas, igual que ocurrió antes con la nube o los sistemas de seguridad.

Pero hay una pega: si antes las limitaciones las imponían las personas —su tiempo y su capacidad para entender el código—, hoy la pregunta principal es: ¿se puede confiar en lo que la IA escribe a toda velocidad? Cuando el código brota a raudales, las prioridades pasan a ser la revisión, el control de calidad, la seguridad y el cumplimiento riguroso de las normas.

Itamar Friedman, director de Qodo, está convencido de que no ganarán quienes escriban más rápido, sino quienes sepan generar confianza real en los productos que integran. En otras palabras, las empresas empezarán a distinguirse de verdad por la capacidad de revisar a gran escala y supervisar con criterio.

La compra de Cursor por parte de SpaceX no es un capricho. Al adquirir un producto así por decenas de miles de millones de dólares, la empresa obtiene pleno control sobre cómo se escribe, revisa e implementa su código interno. Cuando un servicio de este tipo gestiona los cambios de código en todas las etapas, deja de ser una simple herramienta y pasa a formar parte de los cimientos de la infraestructura informática. Y eso exige niveles acordes de seguridad, confianza y transparencia.

Las empresas que utilizan soluciones modernas de IA deberían guiarse no por una lista de «funciones», sino por la capacidad de controlar la independencia y la continuidad del proceso de revisión. Deben preguntarse quién dirige la hoja de ruta del producto, dónde se procesan los datos y si otro proveedor las está arrastrando a su ecosistema.

La herramienta «neutral» de ayer puede empezar de repente a trabajar para los intereses de su nuevo propietario tras una fusión. Por eso es importante contar con una infraestructura que no dependa de la voluntad política externa de quien tenga hoy opciones sobre la plataforma.

A medida que crece el volumen de código, el cuello de botella deja de ser la velocidad de escritura y pasa a ser la verificación: revisarlo todo a mano es sencillamente imposible. Cuando la IA ya escribe un tercio del código, la confianza escasea mucho más que el propio código. El reto consiste en construir un sistema de control automático, independiente y por capas que garantice la calidad y el cumplimiento de las normas sin depender del factor humano.

La generación de código está dejando de ser una característica exclusiva de las soluciones: todas las IA punteras ofrecen resultados aceptables. La verdadera competencia empezará en los procesos independientes de verificación, revisión y control. Ganará quien pueda lanzar un producto realmente fiable, en lugar de una automatización rápida y «en bruto».

Conviene desconfiar de las integraciones que dejan la generación y la revisión del código en las mismas manos: suponen un conflicto de intereses, abren la puerta a la manipulación y socavan la confianza en la herramienta. No delegues la revisión final en quien también cocina el código. La independencia es la principal garantía de transparencia y seguridad.