Anthropic cambia su rumbo en materia de seguridad

Anthropic, la empresa creadora del chatbot Claude, soñaba inicialmente con que la industria de la inteligencia artificial protagonizara no una carrera armamentística, sino una «carrera hacia arriba», en la que los desarrolladores compitieran por hacer la tecnología más segura, en lugar de por lanzar modelos a cualquier precio y a toda velocidad. Pero los sueños, como suele ocurrir en el mundo de la alta tecnología, chocaron con la cruda realidad.

Hace unos años, Anthropic desarrolló su propio conjunto de principios de seguridad, estrictos y, en algunos aspectos, incluso excesivos. La lógica era sencilla: si damos ejemplo, los demás nos seguirán. Según la empresa, funcionó en parte: gigantes como Google y OpenAI adoptaron algunas de esas prácticas. Pero ahí quedó la cosa. La «carrera por la seguridad» a gran escala nunca llegó.

Y ahora, según reconoció Anthropic en una nueva entrada de su blog, la empresa tiene que cambiar las reglas del juego. El mundo no se ha quedado esperando a que todos los actores del mercado acuerden unos estándares ideales; al contrario, sus competidores lanzan nuevos modelos a una velocidad vertiginosa. Y, con ellos, aumenta la presión para mantener el ritmo.

El principal cambio es que Anthropic dejará de detener automáticamente el desarrollo de sus modelos si estos pueden entrañar riesgos. Antes, la empresa se comprometía a reducir el riesgo absoluto, con independencia de lo que hicieran los demás desarrolladores. Ahora tendrá en cuenta las acciones de sus competidores y si salen al mercado modelos de un nivel similar.

La entrada del blog lo dice claramente: el entorno político y económico ha cambiado. El interés del Gobierno se ha desplazado hacia la competitividad en IA y el crecimiento económico, mientras que el debate sobre la seguridad se atasca a nivel federal. Anthropic subraya que sigue considerando necesaria la participación del Gobierno en la regulación de la IA, pero reconoce que el proceso será largo y no se producirá «de forma natural», aunque la tecnología se vuelva mucho más potente.

Estas declaraciones también han agudizado las tensiones entre Anthropic y el Pentágono. Según los medios, el Departamento de Defensa de Estados Unidos exige acceso completo a las herramientas de IA para las fuerzas armadas, incluso para la vigilancia masiva y el uso autónomo de armas sin intervención humana. Anthropic se niega por ahora. Al parecer, esto ha indignado al jefe del Pentágono, Pete Hegseth, que ha amenazado con romper la colaboración.

Actualmente, Anthropic participa junto con Google, OpenAI y xAI en un programa piloto de análisis de imágenes militares. Claude sigue siendo el único chatbot autorizado para operar en sistemas gubernamentales cerrados, pero, como reconoció un funcionario, la empresa podría ser sustituida si fuera necesario.

También se menciona que el grupo de medios Ziff Davis, propietario de Mashable, demandó a OpenAI en 2025 por infringir los derechos de autor al entrenar sus modelos de IA. No está directamente relacionado con la situación de Anthropic, pero subraya la tensión general que vive el sector.