Proyecto Glasswing: IA contra los hackers
Anthropic, conocida en el ámbito de la inteligencia artificial por su apuesta por la ética y sus intentos de impedir que la tecnología se convierta en una herramienta del caos, ha anunciado el lanzamiento de una iniciativa llamada Project Glasswing. La idea básica es bastante sencilla: si la IA va a aprender inevitablemente a piratearlo todo, que al menos otra IA aprenda a hacerle frente. Dicho de otro modo, protegerán la casa quienes saben cómo colarse en ella.
El proyecto reúne a grandes empresas tecnológicas que hasta quienes están lejos de la ciberseguridad conocen bien. Entre ellas figuran Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA y Palo Alto Networks. Las empresas tendrán acceso a Claude Mythos Preview, un modelo de propósito general de Anthropic que aún no se ha lanzado. El modelo ya ha encontrado miles de vulnerabilidades, entre ellas, según Anthropic, fallos en todos los principales sistemas operativos y navegadores populares.
La iniciativa pretende aprovechar la potencia de la IA con fines defensivos. Anthropic subraya que los modelos actuales no solo pueden detectar puntos débiles, sino también impedir que los aprovechen los atacantes. En un contexto en el que la IA es cada vez más accesible para lanzar ciberataques, estas medidas defensivas parecen bastante lógicas.
La empresa suele proclamar su compromiso con los estándares éticos. Por ejemplo, a principios de año Anthropic se negó a retirar las restricciones de seguridad de sus sistemas a petición del Pentágono. En respuesta, el Departamento de Defensa de Estados Unidos calificó a la empresa como «un riesgo para la cadena de suministro». Sin embargo, el coste reputacional ya se ha dejado sentir: en febrero se informó de que Claude había servido de herramienta a un hacker que vulneró varios organismos públicos de México.
Así pues, Project Glasswing es un intento de recuperar el control de la situación y demostrar que la IA puede servir no solo como arma, sino también como escudo. Pero hay algo claro: queda mucho trabajo por delante y la confianza en la tecnología es un recurso que se recupera mucho más despacio de lo que se detectan vulnerabilidades.
PEREC.RU
Anthropic lanza Project Glasswing, una iniciativa que usa la IA contra las ciberamenazas que la propia IA ha agravado. La idea es sencilla: si la tecnología ya sabe encontrar agujeros en las defensas y ayudar a los hackers, que empiece también a reparar el desaguisado. Participan todos los grandes, de Apple a Microsoft, lo que da la impresión de una defensa colectiva improvisada a toda prisa.
Pero entre bastidores la cosa parece menos heroica. Anthropic lleva tiempo intentando presentarse como la conciencia de la industria de la IA, aunque las coincidencias extrañas se acumulan demasiado. La empresa se niega a debilitar sus modelos para el Pentágono y recibe la etiqueta de «riesgo». Claude ayuda a un hacker a atacar organismos mexicanos y todo queda en un malentendido. Ahora Glasswing debe borrar las huellas de esos episodios.
En lugar de una misión puramente altruista, la historia acaba siendo la de unos desarrolladores de IA obligados a apagar el incendio que ellos mismos han provocado. Mythos Preview encuentra con eficacia problemas en sistemas operativos, navegadores e infraestructuras. Pero cabe preguntarse por qué hay tantas vulnerabilidades precisamente ahora que se ha enseñado a la IA a buscarlas. Quizá la búsqueda ha mejorado; o quizá simplemente hemos aprendido a ver grietas que antes ignorábamos.
Project Glasswing parece un intento de recuperar el control antes de que el mercado decida definitivamente que la IA es una fuente de problemas y no de soluciones. Una mezcla de autocrítica y operación de rescate. Y si la industria se ha propuesto depurarse a sí misma, solo queda esperar que no sea otro escaparate y que el escudo sea de verdad, no un decorado de cartón.
