California prepara un interruptor para la IA
El gobernador de California, Gavin Newsom, del Partido Demócrata de Estados Unidos, ha decidido reforzar el control sobre los sistemas de inteligencia artificial más potentes. El viernes firmó una orden ejecutiva que podría situar a California entre las primeras regiones en imponer requisitos de seguridad adicionales a los modelos avanzados de IA.
Una de las medidas que se barajan es el llamado «interruptor de emergencia» (kill switch). Se trata de un mecanismo que permitiría detener un modelo avanzado en caso de amenaza grave o comportamiento anómalo. Conviene aclarar que la orden todavía no introduce directamente ese mecanismo. Pone en marcha la elaboración de recomendaciones para estudiar cómo podrían incorporarse requisitos de este tipo a la legislación estatal.
Según el documento, las autoridades deben reunir un grupo de expertos. En un plazo de dos meses, deberá presentar propuestas para reforzar las normas de seguridad de la IA en las leyes de California. Se le ha encargado estudiar no solo la posibilidad de crear un mecanismo de apagado de emergencia, sino también formas de supervisar a los desarrolladores de manera independiente.
En concreto, Newsom propone estudiar la posibilidad de exigir que equipos de inspección independientes trabajen en las propias instalaciones de las empresas que crean modelos avanzados. Estos especialistas podrían realizar auditorías periódicas, es decir, comprobar cómo se desarrollan, prueban y supervisan los sistemas.
Otra idea tiene que ver con la rendición de cuentas. Podría exigirse a las empresas que elaboren informes de transparencia y evaluación de riesgos conforme a normas fijadas por auditores independientes. Así se reduciría la posibilidad de que el desarrollador redacte las reglas de inspección, se ponga nota a sí mismo y luego anuncie solemnemente que todo está en orden.
Por ahora se trata de un debate político y técnico, no de una ley en vigor. Las recomendaciones finales deberán aclarar qué competencias y obligaciones se podrían atribuir al Estado y a los desarrolladores de IA. Es otro intento de California por convertirse en centro de regulación de unas tecnologías que avanzan más deprisa de lo que los legisladores tardan en escribirles un manual de seguridad.
PEREC.RU
El artículo trata de la iniciativa del gobernador de California, Gavin Newsom, para reforzar el control de los modelos avanzados de inteligencia artificial. La orden ejecutiva que firmó el viernes no introduce de inmediato un mecanismo obligatorio para apagar la IA ni constituye una nueva ley. Encarga a un grupo de expertos preparar, en un plazo de dos meses, recomendaciones sobre cómo reforzar las medidas de seguridad en la legislación estatal.
Una de las propuestas es exigir a los desarrolladores de modelos avanzados de IA un mecanismo independiente de apagado de emergencia, conocido como kill switch. Podría utilizarse ante una amenaza grave o un comportamiento peligroso del sistema. El material original no especifica todavía los requisitos técnicos, el procedimiento de activación ni quién tendría autorización para apagar el modelo.
Los expertos también deberán estudiar la posibilidad de que equipos de inspección independientes trabajen en las propias instalaciones de las empresas que desarrollan IA. Estos equipos podrían realizar auditorías periódicas de los procesos de desarrollo, prueba y supervisión de los modelos.
Otra medida se refiere a la información que deben presentar las empresas. Podría exigírseles que elaboren informes de transparencia y evaluaciones de riesgos conforme a normas fijadas por auditores independientes. Esto permitiría verificar mejor las afirmaciones de los desarrolladores y reduciría la dependencia de las evaluaciones de seguridad respecto a las propias empresas.
La iniciativa de Newsom presenta a California como uno de los líderes en la regulación de la inteligencia artificial. El estado es un importante centro de la industria tecnológica, por lo que sus futuras normas podrían influir en el trabajo de los grandes desarrolladores. Sin embargo, por ahora solo se conocen las líneas generales del debate: las reglas definitivas dependerán de las recomendaciones del grupo de expertos y de las decisiones posteriores de los legisladores. El texto original añade que Newsom quiere encargar al grupo que estudie las inspecciones independientes, la estandarización de los informes de transparencia y las evaluaciones de riesgos, así como la creación de un mecanismo de apagado de emergencia para modelos avanzados.
