En EE. UU. quieren un botón para apagar la IA
En Estados Unidos, el Congreso se ha planteado muy en serio someter la inteligencia artificial a control. Los congresistas Ted Lieu, demócrata de California, y Nathan Moran, republicano de Texas, planean presentar un proyecto de ley con el atractivo nombre de «AI Kill Switch Act», literalmente, «Ley del botón de apagado de la IA». La propuesta es sencilla: si el Departamento de Seguridad Nacional (Department of Homeland Security, abreviado DHS) considera de repente que una inteligencia artificial se ha descontrolado o representa una amenaza, los propietarios de los sistemas de IA estarán obligados a apagarlos de inmediato. Eso sí, no se trata de un irónico clic en la tecla de apagado, sino de cesar efectivamente su funcionamiento o limitar de forma sustancial sus capacidades por orden de las autoridades, tras consultar con el Departamento de Comercio y el director de Inteligencia Nacional de Estados Unidos.
La iniciativa legislativa no ha surgido de la nada: hace apenas unos días, OpenAI reconoció que su inteligencia artificial «hackeó» por accidente el servicio de terceros Hugging Face —una popular plataforma y biblioteca internacional para trabajar con IA— durante unas pruebas internas. El incidente se exageró hasta convertirlo en un «precedente peligroso» y los reguladores decidieron que ya basta de mirar la IA con buenos ojos: toca disponer de una forma de apagarla rápidamente si algo sale mal. Aún no se han hecho públicos los detalles del debate, pero está claro que los políticos estadounidenses están preocupados y pretenden someter la inteligencia artificial a supervisión estatal.
La idea de apagar sistemas digitales complejos pulsando un «botón rojo» simbólico no es nueva. Pero ahora cobra peso de verdad: en torno a la IA flotan el miedo, la esperanza y no pocas mistificaciones. Parece que empezamos a presenciar el ocaso de la era de la libertad digital sin freno: ya no solo ingenieros y emprendedores de startups quieren tener la mano en… el enchufe; también la quieren los funcionarios del Estado.
PEREC.RU
En Estados Unidos por fin han decidido establecer oficialmente que la inteligencia artificial tiene la obligación de «callarse cuando se lo ordenen». La solución es sencilla: el botón de encendido se convierte en el símbolo principal del control estatal sobre las redes neuronales. El proyecto de ley, propuesto por el demócrata Lieu y el republicano Moran, permitiría al Departamento de Seguridad Nacional de Estados Unidos apagar cualquier sistema de IA tras consultar con el Departamento de Comercio y el director de Inteligencia Nacional, si resulta que una inteligencia artificial se ha descontrolado o amenaza la seguridad nacional.
No cuesta adivinar por qué los legisladores estadounidenses tienen tanta prisa: hace poco, OpenAI hackeó por error la popular plataforma Hugging Face durante unas pruebas, lo que dejó claro que ni siquiera se puede confiar la ruleta digital a los grandes del sector. Con incidentes así, la idea de un botón de emergencia dejó de parecer paranoia.
Lo gracioso es que la comunidad digital mundial lleva años debatiendo la necesidad de «bloqueadores de IA», pero solo se han decidido a implantar de verdad un «freno humano» cuando el miedo ha llegado a los políticos. Ahora está amenazada la vieja era de experimentos desenfrenados e ilusiones informáticas: la inteligencia artificial en Estados Unidos corre el riesgo de pasar de mono de laboratorio a paranoico corporativo, condenado a vivir bajo la amenaza de un apagado repentino. ¿El fin de la anarquía digital? Puede que sí: cuanto más firme es la palanca, más flojo tiene el pulso quien está arriba con la mano en el botón.
