Nueva York pondrá a prueba la IA por su cuenta
La gobernadora del estado de Nueva York, Kathy Hochul, anunció el lanzamiento del primer programa público de Estados Unidos para probar la inteligencia artificial. En lugar de fiarse de lo que afirman las propias empresas tecnológicas, el estado encargará a investigadores independientes que evalúen sus desarrollos. «Lo que está en juego es demasiado importante como para fiarse sin más de las empresas de IA», declaró Hochul.
El trabajo estará dirigido por el Centro de Responsabilidad e Investigación en IA del Estado de Nueva York, en la Universidad de Binghamton. Más de 80 investigadores del estado se sumarán al proyecto. Empire AI, una colaboración público-privada de Nueva York en el ámbito de la inteligencia artificial valorada en 500 millones de dólares, aportará los recursos informáticos.
Según la oficina de la gobernadora, el centro probará sistemas avanzados de IA, estudiará los riesgos asociados y recopilará datos que ayuden a los responsables públicos a tomar decisiones. Los investigadores también analizarán cómo aplicar la IA de forma responsable, por ejemplo, en la medicina y la investigación científica.
El programa tiene una limitación importante: los especialistas solo podrán estudiar la información sobre los sistemas que las empresas hagan pública. La ley estatal RAISE, firmada por Hochul el año pasado, debería ampliar la información disponible. Para el 1 de enero de 2027, los grandes desarrolladores de IA deberán registrarse en el estado.
A partir de entonces, las empresas tendrán que publicar normas de seguridad e informes de transparencia, y comunicar los incidentes graves de seguridad en un plazo de 72 horas. Sin embargo, la ley no dará a los investigadores acceso a los modelos que las empresas no hayan lanzado ni revelado. Solo obligará a los desarrolladores a ofrecer más información sobre los sistemas cuyos datos ya sean públicos.
PEREC.RU
La supervisión independiente suena a un raro intento de poner a la industria tecnológica frente al espejo, en vez de delante de otro micrófono para que se haga autopublicidad. Pero, por ahora, solo se muestra el espejo a los modelos que las empresas han aceptado sacar a la luz. Lo que está en desarrollo a puerta cerrada sigue cerrado: en este punto, la supervisión tropieza no con la ciencia, sino con el acceso.
Al Estado le toca aquí un papel complicado: impulsar el desarrollo de la IA y, al mismo tiempo, averiguar si entraña riesgos que sus desarrolladores preferirían mencionar más adelante, en letra pequeña y, a ser posible, después del lanzamiento. Los investigadores universitarios y los recursos informáticos dan al proyecto una base sólida, pero ni siquiera un ordenador potente puede comprobar lo que no le enseñan. Resulta que el progreso tecnológico sigue entrando por una puerta en la que pone «confíen en nosotros».
El registro obligatorio, los informes y el plazo de 72 horas pueden hacer que el sector sea menos opaco. Pero la transparencia con cita previa no es lo mismo que el acceso completo: la empresa prepara el informe, describe por sí misma los límites de seguridad y luego espera que el público lo lea con más atención que las condiciones de uso. Este mecanismo ejerce una presión útil, pero no tiene un botón mágico que diga «enséñenlo todo».
Para los responsables públicos, este formato resulta cómodo: pueden citar investigaciones independientes y demostrar que el Estado no ha dejado la IA sin vigilancia. Para los desarrolladores también hay una comodidad conocida: la supervisión empieza donde termina su voluntad de hacer pública la información. No hace falta ninguna conspiración secreta; basta con que coincidan los intereses y con unas normas que, por ahora, no alcanzan a los modelos cerrados.
Y aun así, es mejor que dejar que la propia industria se ponga nota y se cuelgue solemnemente medallas. La cuestión es si el programa se convertirá en una herramienta real de control o en un escaparate pulcro de buenas prácticas. De momento, Nueva York está construyendo un laboratorio y unas normas, mientras la prueba decisiva sigue siendo la misma: ¿podrá el Estado llegar no solo a las presentaciones vistosas, sino también a los sistemas sobre los que las empresas prefieren guardar silencio?
