El Pentágono acorrala a Anthropic
Anthropic, la empresa creadora del conocido chatbot de IA Claude, ha cambiado de repente su principal principio de seguridad, y lo ha hecho justo cuando el Pentágono ha intensificado la presión. La historia tiene ese aspecto que consigue que hasta el lector cansado de las sorpresas del mundo levante una ceja.
Hasta ahora, Anthropic prometía no lanzar ninguna nueva generación de IA sin medidas de seguridad garantizadas de antemano. Esa era su bandera principal, como un freno de emergencia que debía activarse si la tecnología resultaba peligrosa. Pero la empresa ha cambiado de tono. En la versión actualizada de su Responsible Scaling Policy (RSP), renuncia a las estrictas «líneas rojas» y opta por un enfoque más flexible: riesgos evaluados de forma relativa, nuevos informes y «hojas de ruta de seguridad».
En una entrevista con Time, el director científico de la empresa, Jared Kaplan, dice cosas bastante lógicas: si Anthropic se detiene, sus competidores correrán hacia delante, y eso no ayudará a nadie. En plena carrera armamentística de la IA, con OpenAI valorada ya en más de 850.000 millones de dólares, esa lógica resulta casi familiar. Por cierto, Anthropic recibió en febrero nuevas inversiones por valor de 30.000 millones y ahora está valorada en 380.000 millones de dólares.
Pero todo esto ocurre a la sombra de otro hecho: según informó Axios, el secretario de Defensa de Estados Unidos, Pete Hegseth, exige que Anthropic dé a los militares acceso completo a su modelo, sin restricciones. Y ha fijado el viernes como fecha límite. De lo contrario, la empresa podría enfrentarse a medidas de presión: desde la aplicación de la Defense Production Act, que permite al presidente de Estados Unidos obligar a empresas privadas a cumplir los encargos gubernamentales necesarios, hasta la rescisión de contratos militares y la etiqueta de «riesgo para la cadena de suministro».
Anthropic se resiste por ahora: afirma que no permitirá que Claude se utilice para la vigilancia masiva de estadounidenses ni en armas que disparen sin intervención humana. Pero los expertos ya dicen que, si hay conflicto, probablemente la empresa se verá obligada a acudir a los tribunales.
Resulta especialmente inquietante que Claude sea la única IA autorizada para las tareas militares más sensibles de Estados Unidos. Una fuente oficial declaró a Axios: «La única razón por la que siquiera hablamos con ellos es que los necesitamos, y los necesitamos ahora. Son demasiado buenos».
En el artículo de Time, figuras del ámbito de la seguridad de la IA, como Chris Painter, director de METR, reaccionan con cautela: elogia la transparencia, pero advierte de que renunciar a límites estrictos puede provocar el efecto de la «rana que se cuece a fuego lento», cuando una empresa va justificando paso a paso decisiones cada vez más arriesgadas.
Según él, la nueva RSP demuestra que Anthropic ya se ve obligada a trabajar en modo de «triaje»: intentar gestionar riesgos que evolucionan más deprisa que los métodos para analizarlos. Y eso indica directamente que la sociedad sigue estando catastróficamente poco preparada para las consecuencias del rápido aumento de las capacidades de la IA.
PEREC.RU
Anthropic ha decidido revisar sus reglas de seguridad justo cuando el Pentágono ha empezado a presionar a la empresa. Qué simetría tan interesante. Primero nos hablaron largo y tendido de estrictas «líneas rojas» que debían frenar el desarrollo de la IA si se volvía demasiado arriesgado. Ahora esas líneas se han borrado de repente y en su lugar ha aparecido la prudente palabra «relatividad». Da la impresión de que han cambiado la filosofía por la contabilidad.
A primera vista, parece la reacción habitual de una empresa ante el mercado: los competidores corren, hay muchos clientes y mucho dinero. Pero al lado asoma el Pentágono, que de repente se ha acordado de que necesita acceso completo a Claude y lo ha recordado con tanta vehemencia que ha fijado el viernes como fecha límite. ¿Casualidad? Quizá. Pero una casualidad con olor a orden militar.
Curiosamente, Claude es precisamente la IA que se utiliza para las tareas militares más sensibles. Es como si el ejército reconociera que dependía de un gato y ahora exigiera que el gato firmara un contrato y no maullara. Anthropic se resiste, pero las amenazas son serias: desde la Defense Production Act hasta la etiqueta de «riesgo para la cadena de suministro». Esto huele menos a negociación que a coacción.
Los expertos en seguridad de la IA añaden una nota de tristeza filosófica: la flexibilidad de las reglas puede convertirse fácilmente en el efecto de la «rana hervida». Hoy se cede un poquito, mañana se inventa una justificación convincente y pasado mañana ya ni nos damos cuenta de que hemos cruzado nuestros propios límites.
La historia recuerda a un clásico del género: el idealismo de una startup se diluye a medida que crece su valoración. La IA se vuelve demasiado potente, el control avanza demasiado despacio y la sociedad confía demasiado en que la tecnología no se estropeará sola. Solo queda esperar que alguien apague el fuego antes de que la rana termine de cocerse.
