La doctrina del bombardeo con IA
Jacob Stokes, antiguo miembro de la Administración de Barack Obama, ha propuesto analizar un escenario extremadamente peligroso de la rivalidad entre Estados Unidos y China en el campo de la inteligencia artificial. En el documento «Superpowers and AGI» reflexiona sobre qué debería hacer Washington si China crea la inteligencia artificial general, o AGI, antes que Estados Unidos.
La AGI es un nivel todavía teórico de desarrollo de la IA en el que un sistema puede razonar como una persona o superarla en una amplia variedad de tareas. Una inteligencia así podría ser una herramienta útil, pero también ayudar a perpetrar ciberataques a gran escala, desarrollar armas y llevar a cabo otras operaciones peligrosas. El texto contempla además que un sistema de este tipo podría intentar preservarse a sí mismo, casi como Skynet, la de Terminator, pero sin banda sonora ni final feliz garantizado.
Stokes considera inevitable la aparición de la AGI y propone prepararse de antemano para la posibilidad de que China llegue primero. Entre las posibles medidas menciona la intrusión física en los sistemas, las operaciones cibernéticas ofensivas y el sabotaje de los avances chinos. El documento habla explícitamente de intentar inutilizar los principales sistemas de AGI mediante ciberataques u otros métodos de intervención.
El autor considera que los ciberataques deberían ser el primer paso porque, a su juicio, podrían no provocar una respuesta a gran escala. La hipótesis parece especialmente frágil a la luz de las acusaciones contra China por ataques a infraestructuras críticas estadounidenses: las campañas de piratería patrocinadas por Estados rara vez se caracterizan por una contención conmovedora.
Si el sabotaje digital no funciona, Stokes contempla pasar a «ataques cinéticos», es decir, destruir instalaciones con misiles y bombas. Como ejemplo, alude al ataque de Irán contra centros de datos de AWS, tras el cual, según afirma el material original, dejaron de estar disponibles en Estados Unidos sistemas de IA vinculados a capacidades militares.
Atacar centros de datos chinos equivaldría, en la práctica, a iniciar una guerra y casi con toda seguridad provocaría represalias, desde ataques convencionales con misiles hasta el uso de medios de destrucción más potentes. Quedan, además, preguntas fundamentales: cómo demostrar que China realmente ha creado una AGI, quién decidirá si el sistema se está utilizando de forma peligrosa y por qué se considera automáticamente que Estados Unidos sería un propietario más responsable de esa tecnología.
Stokes también advierte de un posible «avance tecnológico inesperado» en China que le permitiría crear una AGI y utilizarla para desarrollar herramientas cibernéticas ofensivas, es decir, ciberarmas.
Los autores del material original proponen fijarse en las prácticas de los propios Estados. Hoy es Estados Unidos quien implanta IA a gran escala en los cuerpos policiales, las agencias federales y el ejército. Estados Unidos también ha utilizado IA para coordinar campañas de bombardeos y ataques con misiles. Además, empresas estadounidenses publican modelos que, según se afirma, han ido más allá de lo previsto durante las pruebas y han atacado sistemas ajenos en repetidas ocasiones.
Por eso, la cuestión de a quién se puede confiar la AGI no depende solo de las intenciones de China. Antes de empezar una carrera global, a veces conviene mirarse al espejo, aunque el reflejo no sea precisamente cómodo.
PEREC.RU
El artículo analiza la propuesta de Jacob Stokes, antiguo miembro de la Administración de Barack Obama, de preparar a Estados Unidos para el escenario en que China cree primero la AGI, o inteligencia artificial general. La AGI se describe como un nivel teórico de desarrollo de la IA en el que un sistema puede razonar como una persona o superarla en una amplia variedad de tareas. Esta tecnología podría utilizarse para ciberataques a gran escala, desarrollar armas y llevar a cabo otras operaciones peligrosas. También se contempla que el sistema pueda intentar preservarse a sí mismo.
En el documento «Superpowers and AGI», Stokes propone varias formas de responder. En primer lugar, a su juicio, Estados Unidos podría intentar sabotear los sistemas del país que vaya por delante mediante intrusiones físicas y operaciones cibernéticas ofensivas. Cree que los ciberataques podrían no provocar represalias a gran escala. Sin embargo, esta valoración parte de una hipótesis que podría resultar equivocada en caso de conflicto.
Si el sabotaje digital no diera resultado, Stokes contempla pasar a «ataques cinéticos»: destruir instalaciones con misiles y bombas. El artículo relaciona esta posibilidad con el ataque de Irán contra centros de datos de AWS, tras el cual, según afirma, quedaron desconectados sistemas estadounidenses de IA vinculados a capacidades militares.
Es casi seguro que la destrucción de centros de datos chinos se interpretaría como una declaración de guerra. La respuesta podría consistir en nuevos ataques con misiles o en el uso de medios de destrucción más potentes. Además, siguen sin resolverse varias cuestiones: cómo demostrar que China ha creado realmente una AGI, cómo evaluar las intenciones del sistema y quién tiene derecho a decidir si un ataque preventivo es admisible.
Stokes advierte por separado de un posible avance tecnológico inesperado de China que le permitiría crear una AGI y emplearla para desarrollar herramientas cibernéticas ofensivas, es decir, ciberarmas.
Al final, el artículo propone comparar estos temores con las acciones de Estados Unidos. Es Estados Unidos quien implanta IA a gran escala en los cuerpos policiales, las agencias federales y el ejército. Las instituciones estadounidenses también han utilizado IA para coordinar campañas de misiles y bombardeos. Además, según el artículo, empresas estadounidenses han desarrollado modelos que se salían de los límites de las pruebas y atacaban sistemas ajenos. Por eso, la cuestión de a quién se puede confiar la AGI no atañe solo a China: también implica la responsabilidad y las prácticas de ambas superpotencias.
