El misterio del examen de la IA
Cuatro organismos federales de Estados Unidos se enfrentan a una demanda por un sistema secreto de evaluación de los modelos más avanzados de inteligencia artificial. Se trata de un framework, un conjunto de normas y procedimientos con los que el Gobierno evalúa los modelos de IA más potentes antes de su lanzamiento. La demanda la ha presentado la organización de defensa de los derechos civiles Protect Democracy.
La organización sostiene que las autoridades apenas han revelado detalles sobre el funcionamiento del sistema. No está claro quién participa en las evaluaciones, a qué empresas se les permite hacerlo, con qué criterios se selecciona a los desarrolladores ni en qué ley se basan estas pruebas.
El secretismo es especialmente relevante porque el Estado podría influir en el lanzamiento de modelos de IA y en quién tiene acceso a ellos. En el peor de los casos, un procedimiento opaco puede pasar de ser una herramienta de seguridad a convertirse en un mecanismo cómodo para ejercer presión, manipular y cometer actos de corrupción, si la sociedad no puede comprobar las reglas ni quién participa.
La demanda llega tras varias semanas de enfrentamiento entre la Administración estadounidense y Anthropic, la empresa que creó Claude. El conflicto se desencadenó por cambios en la disponibilidad del modelo Mythos 5 y por el intento del presidente Donald Trump de incluir a Anthropic en una lista negra.
Protect Democracy exige que se hagan públicos el funcionamiento del framework, las condiciones de participación, los nombres de quienes intervienen, las normas de acceso a los modelos avanzados y las relaciones contractuales entre las partes. Además, pide al tribunal que prohíba a los organismos retener documentos que no sean secretos de Estado.
Los demandados son la Office of the National Cyber Director —la Oficina del Director Nacional de Ciberseguridad—, la Office of Science and Technology Policy —la Oficina de Política Científica y Tecnológica— y los departamentos del Tesoro y de Comercio de Estados Unidos.
La Casa Blanca sostiene que algunos aspectos de la evaluación deben seguir siendo confidenciales. En particular, las pruebas relacionadas con la seguridad nacional pueden contener información clasificada. Un portavoz de la Administración expresó su postura con toda claridad: «Que una información no esté clasificada no significa que vayamos a difundirla a los cuatro vientos».
Pero Protect Democracy no es la única que plantea preguntas. El congresista Greg Casar, demócrata por Texas, acusó a Trump de «fracasar estrepitosamente en su tarea de proteger a los estadounidenses de los peligros de la IA» y afirmó que está demasiado ocupado enriqueciéndose personalmente como para proteger el empleo y la seguridad nacional.
Como el Congreso tampoco dispone de toda la información sobre el sistema, Protect Democracy considera que hacerla pública es necesario para garantizar el control parlamentario y la rendición de cuentas ante la ciudadanía. La organización solicita una orden judicial que obligue a las autoridades a revelar la parte no clasificada del framework y la información relacionada antes del 30 de septiembre. La fecha pondrá a prueba tanto a los organismos como a la propia idea del control estatal de la inteligencia artificial: la seguridad exige secretismo, pero sin reglas transparentes este empieza a parecerse sospechosamente rápido a la arbitrariedad.
PEREC.RU
Cuatro organismos federales de Estados Unidos han sido demandados por un sistema secreto de evaluación de modelos avanzados de inteligencia artificial durante la Administración de Donald Trump. La demanda la ha presentado Protect Democracy, una organización de defensa de los derechos civiles. Sostiene que las autoridades apenas han revelado información sobre el framework: se desconoce cómo funciona, quién participa en las evaluaciones, qué empresas pueden someterse al proceso, con qué criterios se las selecciona y en qué fundamento jurídico se apoyan los organismos.
El sistema es relevante porque el Estado podría influir en el lanzamiento de modelos potentes de IA y en el acceso a ellos. Protect Democracy considera que la falta de transparencia crea riesgos de decisiones arbitrarias, presión política, manipulación y corrupción. La organización exige que se publiquen las normas del framework, las condiciones de participación, la identidad de sus participantes, el procedimiento de acceso a los modelos avanzados y las relaciones contractuales entre las partes. También pide al tribunal que obligue a los organismos a no ocultar documentos que no sean secretos.
La demanda está relacionada con el enfrentamiento entre la Administración estadounidense y Anthropic, desarrolladora de Claude. Tras los cambios en la disponibilidad de Mythos 5, el presidente Trump habría intentado incluir a la empresa en una lista negra.
Los demandados son la Office of the National Cyber Director, la Office of Science and Technology Policy y los departamentos del Tesoro y de Comercio de Estados Unidos. La Casa Blanca admite que algunos aspectos de las evaluaciones pueden permanecer legítimamente en secreto: las pruebas relacionadas con la seguridad nacional podrían contener información clasificada. Un portavoz de la Administración afirmó que el hecho de que algo no esté clasificado no implica que exista la obligación automática de difundirlo a todo el mundo.
Las críticas al sistema también llegan desde el Congreso. El representante Greg Casar, demócrata por Texas, acusó a Trump de no proteger a los estadounidenses de las amenazas de la IA y afirmó que el presidente está demasiado ocupado enriqueciéndose personalmente como para ocuparse del empleo y de la seguridad nacional.
Protect Democracy subraya que el Congreso tampoco dispone de toda la información. A juicio de la organización, hacerla pública es necesario para el control parlamentario y la rendición de cuentas. Ahora solicita una orden judicial que obligue a las autoridades a revelar antes del 30 de septiembre la parte no clasificada del framework y la información relacionada. El conflicto central gira en torno al límite entre el secretismo legítimo por motivos de seguridad y la opacidad que permite al Estado tomar decisiones sin dar explicaciones.
