El botón del fin del mundo: ¿quién podrá apagar la inteligencia artificial?
¿Tiene la IA un botón de apagado de emergencia?
Mientras crece el debate sobre las capacidades de la inteligencia artificial, las autoridades de California han decidido no esperar a que la propia tecnología explique dónde tiene el freno. El 18 de septiembre, el gobernador del estado, Gavin Newsom, firmó una orden para crear un grupo de expertos. Su objetivo es reforzar las normas de seguridad de la IA vigentes, acelerar las auditorías independientes de los sistemas y exigir que se informe sobre sus riesgos.
El documento también propone estudiar la posibilidad de desconectar de emergencia los modelos avanzados: el llamado AI kill switch, o «botón de apagado de la IA». El propio Newsom señaló que el sentido de esta idea depende de a quién se pregunte. Y quizá esa sea la descripción más precisa del proyecto: el nombre ya existe, pero el mecanismo común, por ahora, vive sobre todo en las conversaciones.
Por interruptor universal suele entenderse un método para detener un sistema potente si empieza a actuar de forma peligrosa o se descontrola. Pero aún no está claro cómo apagar una IA que funciona en numerosos servidores, en distintas empresas y países, ni quién tendría derecho a dar la orden.
En julio, dos congresistas estadounidenses presentaron el AI Kill Switch Act, un proyecto de ley bipartidista. Propone otorgar al Departamento de Seguridad Nacional de Estados Unidos autoridad para ralentizar o detener un sistema capaz de causar «daños catastróficos». También se quiere obligar a los desarrolladores a crear mecanismos para ralentizar, suspender temporalmente o apagar por completo esos sistemas. La orden de Newsom propone un enfoque parecido.
La legislación federal estadounidense aún no exige a las empresas disponer de esos medios, aunque la mayoría de los grandes laboratorios cuenta con procedimientos propios para detener modelos peligrosos. De ellos se ocupan personas, departamentos de seguridad y equipos de alignment, que ajustan el comportamiento de la IA para adecuarlo a los objetivos humanos. Algunos expertos proponen que auditores independientes revisen esos procedimientos. Otros abogan por normas comunes para todo el sector y supervisión estatal. Los partidarios más alarmados de la idea quieren un sistema único de apagado de emergencia para toda la IA.
Mark Nitzberg, director ejecutivo del Center for Human-Compatible AI de la University of California, Berkeley, calificó el interruptor universal de aspiración más que de realidad. Geoffrey Hinton, a quien suelen llamar «el padrino de la IA», dijo a CNN que no considera que un botón así sea una solución fiable a largo plazo al problema de la superinteligencia.
El Center for Democracy and Technology también advierte de que las normas binarias del tipo «hay un botón, así que la seguridad está garantizada» pueden resultar ineficaces. Las empresas pueden adaptar sus sistemas a los requisitos formales y la tecnología avanza más deprisa de lo que se actualizan las directrices. Según Travis Hall, estas medidas podrían reducir los riesgos solo sobre el papel y, al mismo tiempo, crear nuevas amenazas de seguridad y oportunidades de abuso por parte del Estado.
A juicio del CDT, la supervisión debe ser independiente, continua y sustancial. Los grupos de expertos deberían incluir no solo a ingenieros, sino también a especialistas en derechos y libertades civiles. Además, hay que incentivar a los desarrolladores para que realmente apaguen los sistemas peligrosos: detener un producto acarrea pérdidas económicas y de reputación.
También existe un problema técnico. La IA no siempre está en un único ordenador al que baste con cortar la corriente. A veces es suficiente con apagar los servidores; otras, un agente peligroso puede seguir actuando a través de internet. Michael Vermeer, físico sénior de RAND Corporation, planteó que, en ese caso, habría que buscar el sistema en la red, identificar a sus operadores y limitar sus capacidades. Para lograr un control total podría hacer falta una operación internacional coordinada.
Por último, queda la cuestión del poder: ¿quién pulsará el botón: el creador del sistema, el regulador del sector, el Departamento de Seguridad Nacional o un organismo internacional? La IA no es una persona con la que se pueda negociar, e internet no tiene puertas con cerradura ni fronteras estatales fiables. La tecnología la dirigen las personas, y solo las personas podrán detenerla.
Pese a las dudas, políticos y representantes del sector siguen insistiendo en estudiar el apagado de emergencia. El debate se ha intensificado con escenarios en los que la IA supuestamente adquiere conciencia y se vuelve hostil a la humanidad. Mientras tanto, los problemas éticos y sociales reales de la inteligencia artificial ya existen, y todavía no se les ha ocurrido ni siquiera un botón especialmente convincente.
Artículo actualizado el 18 de septiembre de 2026 a las 14:26: se ha añadido el comentario de Travis Hall, del Center for Democracy and Technology.
PEREC.RU
El artículo trata la idea del AI kill switch: un mecanismo de emergencia que permitiría ralentizar, suspender o apagar por completo un sistema de inteligencia artificial peligroso. El detonante ha sido una nueva medida ejecutiva del gobernador de California, Gavin Newsom, del 18 de septiembre de 2026. Prevé crear un grupo de expertos para reforzar las leyes de seguridad de la IA, acelerar las auditorías independientes y exigir informes sobre riesgos. El grupo también deberá estudiar la posibilidad de desconectar de emergencia modelos avanzados.
La idea de un botón universal se debate en Estados Unidos y entre los desarrolladores de IA, pero su utilidad práctica no está clara. En julio, dos congresistas presentaron el AI Kill Switch Act, un proyecto de ley bipartidista. Plantea que el Departamento de Seguridad Nacional de Estados Unidos pueda ralentizar o detener un sistema capaz de causar daños catastróficos y que los desarrolladores estén obligados a crear mecanismos para ralentizarlo, suspenderlo o apagarlo por completo.
Los grandes laboratorios de IA ya tienen procedimientos internos para detener modelos potencialmente peligrosos, aunque la legislación federal estadounidense todavía no exige que los tengan. Las propuestas van desde auditar esos procedimientos de forma independiente hasta establecer normas sectoriales obligatorias y control estatal. Algunos partidarios reclaman un mecanismo de emergencia único para toda la IA.
Los expertos Mark Nitzberg y Geoffrey Hinton dudan de que un kill switch universal sea una solución fiable. El Center for Democracy and Technology advierte de que los requisitos formales y binarios pueden ser ineficaces, ya que las empresas pueden adaptar sus sistemas a listas de comprobación mientras la tecnología cambia rápidamente. Travis Hall también señala el riesgo de crear nuevas amenazas de seguridad y de que el Estado abuse de estas medidas.
Según el CDT, la supervisión eficaz debe ser independiente, continua e incluir no solo a ingenieros, sino también a defensores de los derechos civiles. Además, habrá que incentivar a las empresas para que apaguen los sistemas peligrosos, ya que hacerlo les ocasiona pérdidas económicas y de reputación.
Desde el punto de vista técnico, puede ser complicado detener una IA: el sistema podría funcionar en distintos servidores e influir en internet. En algunos casos bastaría con apagar los servidores; en otros, quizá habría que localizar el sistema en la red, identificar a sus operadores y coordinarse internacionalmente. También sigue sin resolverse quién tendría autoridad para ordenar el apagado: el desarrollador, un organismo sectorial, el Estado o una entidad internacional. Artículo actualizado el 18 de septiembre de 2026: se ha añadido el comentario de Travis Hall, del Center for Democracy and Technology.
