
OpenAI amplía su programa de búsqueda de vulnerabilidades ante la creciente preocupación por el posible uso de la inteligencia artificial para lanzar nuevos ataques. La empresa ha anunciado una alianza con Cathedral Systems: especialistas de ambas organizaciones revisarán la infraestructura de OpenAI, buscarán puntos débiles y mejorarán las defensas.
En OpenAI confían en que el equipo externo aporte una perspectiva nueva y complemente las investigaciones internas. El director ejecutivo de Cathedral Systems, Gavin Kliger, calificó este enfoque de importante ejemplo de colaboración con especialistas independientes: según dijo, OpenAI utilizará sus propios modelos para revisar y reforzar periódicamente sus defensas.
La empresa también pretende hacer más atractivo su programa de recompensas por errores para los investigadores independientes. Un programa de bug bounty consiste en que especialistas buscan vulnerabilidades y las comunican a una empresa; por los hallazgos confirmados pueden recibir una recompensa. OpenAI no ha revelado las cantidades exactas, pero ha anunciado que está dispuesta a cuadruplicar los pagos por vulnerabilidades críticas.
El programa ya incluye tareas relacionadas con la corrección de software, la protección de la privacidad de los modelos, la detección y respuesta ante amenazas, la integración de herramientas de seguridad y la protección de agentes de IA: sistemas capaces de realizar acciones con cierto grado de autonomía.
No es la primera gran iniciativa de OpenAI en materia de seguridad. Anteriormente, la empresa pidió a una cuarta parte de sus desarrolladores que dedicara tiempo a buscar y corregir vulnerabilidades. Para acelerar las investigaciones y las reparaciones, utilizaron Codex, la herramienta de OpenAI para ayudar a programar.
«Seguimos con este trabajo porque las medidas tradicionales de ciberseguridad ya no son suficientes», afirmó la empresa al hablar de aquella iniciativa.
OpenAI también promete utilizar sus modelos más avanzados para reforzar sus propios sistemas y proteger los de otras organizaciones. El enfoque recuerda al Project Glasswing de Anthropic, una iniciativa que aplica modelos de IA para mejorar la ciberseguridad.
En OpenAI creen que el sector debe actuar de forma coordinada para que los defensores tengan tiempo de detectar y prevenir ataques. Según la empresa, hay que empezar a trabajar en ello ya.
La ciberseguridad lleva mucho tiempo pareciéndose a una competición en la que un bando construye un castillo y el otro ya está estudiando dónde tiene ventanas. Ahora se suma la IA a esta carrera y, de pronto, resulta que los castillos de siempre —es decir, las medidas de protección tradicionales— no bastan. Una sorpresa del calibre de «el agua moja», aunque sus consecuencias son muy reales.
Aumentar las recompensas para los investigadores parece sensato: sale más barato pagar por adelantado por una vulnerabilidad descubierta que asumir los daños después de un ataque. No hay altruismo ni magia oculta en esta lógica, solo un cálculo pragmático. Las empresas quieren que los puntos débiles los encuentren primero personas obligadas a comunicarlos, y no quienes prefieren probarlos directamente con datos ajenos.
La alianza con un equipo externo también sirve de seguro contra la ceguera corporativa. Cuando un desarrollador lleva años mirando su propio sistema, algunas decisiones dejan de parecer errores y empiezan a formar parte del decorado. A un especialista independiente le resulta más fácil preguntar por qué la puerta se cierra desde dentro y no aceptar como respuesta «siempre se ha hecho así».
Hay otra cara del asunto: OpenAI se propone utilizar modelos avanzados para proteger sus propios sistemas y los de otras organizaciones. Aquí la IA es a la vez herramienta, objeto de evaluación y posible parte de la amenaza: una versatilidad muy práctica que le amarga un poco el día a cualquier equipo de seguridad. Cuantos más poderes se concedan a los agentes automatizados, más importante será saber quién controla sus acciones y qué ocurre si falla ese control.
El parecido con la iniciativa de Anthropic demuestra que ya no se trata de un gesto publicitario aislado, sino de una lucha por establecer las reglas de un nuevo sector. Los grandes desarrolladores quieren ser no solo proveedores de modelos potentes, sino también quienes decidan cómo se evalúan. En el mejor de los casos, esto crea estándares comunes; en uno menos ideal, permite a los propios jugadores redactar el examen, aprobarlo ellos mismos y entregarse solemnemente un certificado.
Por eso no solo importan las promesas rimbombantes y los multiplicadores de las recompensas, sino también la transparencia: qué vulnerabilidades se aceptan, con qué rapidez se corrigen y quién verifica el resultado. De lo contrario, la «protección de todo el sector» corre el riesgo de quedarse en un bonito rótulo en una puerta que nadie se ha molestado en poner a prueba. Y, como es sabido, los rótulos no suelen detener a los atacantes.