Una IA sin botón de «parada»
Según la BBC, el Gobierno británico ha rechazado las peticiones para crear un mecanismo legal que permita desconectar de emergencia la inteligencia artificial. Se trata del llamado «kill switch»: un botón o procedimiento jurídico que permitiría al Estado detener rápidamente un sistema de IA en caso de amenaza grave.
En el Gabinete británico explicaron que no es posible simplemente apagar la IA. Aunque se bloquee el acceso a un modelo concreto o se detenga una infraestructura determinada, eso no impedirá que alguien aloje el mismo modelo en otros servidores y lo utilice en otra jurisdicción. Dicho de otro modo, el interruptor de un país no dejará sin corriente a la red mundial.
La respuesta llegó después de que varios diputados propusieran establecer por ley un mecanismo específico para situaciones de emergencia. Este permitiría al Gobierno exigir la interrupción de un sistema peligroso si surgiera una amenaza. Sin embargo, las autoridades dejaron claro que buena parte de la responsabilidad debe seguir recayendo en los propios desarrolladores. Las empresas que crean productos de IA tienen que incorporar de antemano las restricciones y medidas de protección necesarias.
Danial Kokotajlo, antiguo investigador de OpenAI, está de acuerdo: a un solo país le resultaría difícil crear un interruptor técnico o jurídico eficaz. A su juicio, una opción más realista podría ser la cooperación entre varias grandes empresas. Si los desarrolladores acuerdan actuar conjuntamente, tendrán más posibilidades de limitar el acceso a un sistema peligroso.
«Desconectar el acceso a un modelo de IA durante una emergencia no les servirá de mucho —dijo Kokotajlo al hablar de un interruptor nacional—. De todos modos, los superintelectos creados en Estados Unidos los arrollarán».
La nueva oleada de debate comenzó tras una discusión en la Cámara de los Lores el 1 de septiembre. Entre los motivos estuvo una carta abierta que advertía de una «breve ventana de oportunidad para reforzar la ciberseguridad». La firmaron más de cien empresas, entre ellas OpenAI, Anthropic, Google, Microsoft, AWS y Adobe. Instaron a los gobiernos, los especialistas en ciberseguridad y los desarrolladores de sistemas avanzados de IA a actuar de forma conjunta.
Anteriormente, lord Clement-Jones afirmó que los servicios de seguridad y los reguladores británicos no disponen de una ley especial y flexible que les permita detener por la fuerza una infraestructura física o digital si aparece una IA peligrosa.
Por ahora, un interruptor de emergencia parece inviable tanto desde el punto de vista técnico como jurídico. Solo queda esperar que las empresas y los organismos públicos aprendan al menos a acordar las normas de seguridad de antemano, antes de que otro sistema decida que la humanidad estorba a su productividad.
PEREC.RU
El Gobierno británico ha rechazado las peticiones para crear un mecanismo de emergencia que permita desconectar la inteligencia artificial, conocido como «kill switch». La BBC informó de ello. La propuesta se debatió ante el temor de que un sistema de IA potencialmente peligroso o fuera de control requiera una interrupción inmediata.
El Gabinete británico afirmó que el Estado no puede simplemente apagar la IA. Aunque las autoridades prohíban el acceso a un modelo concreto o detengan la infraestructura en la que funciona, eso no impedirá que los desarrolladores u otros usuarios alojen el mismo modelo en otros servidores y lo utilicen en otro país. Por tanto, un mecanismo limitado al Reino Unido no podría detener de forma fiable una tecnología global.
Los diputados proponían incorporar a la legislación un mecanismo específico para situaciones de emergencia. Este podría dar al Gobierno autoridad para exigir la desconexión física o digital de un sistema peligroso. Sin embargo, las autoridades también señalaron que las empresas que crean IA son responsables de actuar. Los desarrolladores deben incorporar de antemano restricciones de protección y otras medidas de seguridad en sus productos.
Danial Kokotajlo, antiguo investigador de OpenAI, comparte esta valoración. Considera que un solo país no puede crear eficazmente un interruptor universal, ni jurídico ni técnico. No obstante, Kokotajlo cree que la acción conjunta de las grandes empresas de IA podría ser una posible solución.
Señaló que bloquear el acceso a un modelo en un país durante una emergencia tendría un efecto limitado. Según él, eso no protegería a la población de sistemas más potentes creados en Estados Unidos. Si tecnologías similares siguen desarrollándose y poniéndose en marcha en otros países, un bloqueo local no eliminará el riesgo en sí.
La nueva oleada de debate comenzó tras una sesión de la Cámara de los Lores británica el 1 de septiembre. Uno de los motivos fue una carta abierta que hablaba de una «breve ventana de oportunidad para reforzar la ciberseguridad». La firmaron más de cien empresas, entre ellas OpenAI, Anthropic, Google, Microsoft, AWS y Adobe.
Los firmantes instaron a los gobiernos, los reguladores, las empresas de ciberseguridad y los desarrolladores de sistemas avanzados de IA a colaborar para reducir riesgos futuros. Anteriormente, lord Clement-Jones advirtió de que los servicios de seguridad y los organismos reguladores británicos carecen de un mecanismo legislativo especial y flexible que permita detener por la fuerza una infraestructura física o digital si una IA peligrosa empieza a representar una amenaza.
Así pues, crear un «kill switch» universal parece inviable por ahora, tanto en términos técnicos como jurídicos. El foco se desplaza hacia la cooperación internacional, las normas consensuadas y la responsabilidad de los desarrolladores, que deben reducir los riesgos desde la fase de creación de los productos de IA.
