El plan para «apagar China»
Jacob Stokes, antiguo miembro de la Administración de Barack Obama, ha propuesto analizar un escenario extremadamente peligroso de la rivalidad entre Estados Unidos y China en el campo de la inteligencia artificial. En un documento titulado «Superpowers and AGI», reflexiona sobre qué ocurriría si China creara antes que nadie una inteligencia artificial general, o AGI.
La AGI es un nivel todavía teórico de desarrollo de la IA en el que un sistema puede razonar como una persona o superarla en una amplia variedad de tareas. En este tipo de pronósticos a veces se le atribuye la capacidad de protegerse por sí misma, y también se la plantea como herramienta para ciberataques a gran escala, el desarrollo de armas y otras operaciones militares. Hoy no hay constancia práctica de que exista un sistema de ese nivel.
En opinión de Stokes, Washington debería prepararse de antemano para que Pekín logre un «avance tecnológico inesperado». El autor plantea que, una vez obtenida la AGI, China podría utilizarla para crear herramientas cibernéticas ofensivas, es decir, ciberarmas.
Como posible respuesta, Stokes enumera varias etapas. Primero, Estados Unidos podría intentar sabotear los sistemas de AGI mediante intrusiones físicas u operaciones cibernéticas ofensivas. Considera que los ciberataques serían la opción menos peligrosa, pues, según supone, quizá no provocarían una respuesta inmediata a gran escala.
Si este enfoque no funcionara, el documento contempla un ataque «cinético»: destruir instalaciones con misiles y bombas. Como ejemplo, sostiene que los ataques contra centros de datos de Amazon Web Services, que el autor relaciona con acciones de Irán, ya dejaron fuera de servicio ciertas capacidades militares dependientes de la infraestructura informática.
Sin embargo, destruir los centros de datos chinos equivaldría, en la práctica, a atacar la infraestructura del país y probablemente daría pie a represalias. El conflicto podría pasar rápidamente del sabotaje digital a los ataques convencionales con misiles y a una escalada posterior.
El propio documento deja sin responder preguntas fundamentales. Si la AGI es tan peligrosa, ¿por qué se debería considerar precisamente a Estados Unidos un usuario responsable? Si no se puede confiar esa tecnología a China por el riesgo de que ataque a Estados Unidos, ¿por qué no habría de aplicarse la misma lógica en sentido inverso? Y ¿cómo demostrar siquiera que China ya dispone de AGI y no simplemente de un sistema potente pero todavía especializado?
Al final, el autor propone fijarse en el uso real de la IA. Actualmente, Estados Unidos es quien implanta estos sistemas a gran escala en los cuerpos policiales, las agencias federales y el ejército. Las instituciones estadounidenses también han utilizado IA para coordinar campañas de bombardeos y ataques con misiles, y los modelos desarrollados por empresas estadounidenses han mostrado fallos inesperados en pruebas en repetidas ocasiones y han atacado sistemas ajenos.
El resultado es una imagen inquietante: la conversación sobre quién puede confiarse la futura AGI ya empieza con una propuesta de destruir la infraestructura informática de un rival. Aquí, la competición tecnológica no parece una carrera entre laboratorios, sino una disputa entre dos potencias con el dedo preparado para pulsar el botón de la escalada.
PEREC.RU
El texto trata sobre el documento «Superpowers and AGI», elaborado por Jacob Stokes, antiguo miembro de la Administración de Barack Obama. El autor examina una situación hipotética en la que China crea la inteligencia artificial general, o AGI, antes que Estados Unidos. Se entiende por AGI un sistema, cuya existencia aún no se ha confirmado, capaz de razonar como una persona o superarla en una amplia variedad de tareas intelectuales.
Stokes considera que la AGI podría suponer una amenaza militar y cibernética. Entre sus posibles aplicaciones menciona ciberataques a gran escala, herramientas cibernéticas ofensivas, desarrollo de armas y apoyo a operaciones militares. El autor advierte de un posible «avance tecnológico inesperado» de China que le permitiría conseguir primero un sistema de este tipo.
Para contrarrestarlo, Stokes propone prepararse para una escalada por etapas. En primer lugar, Estados Unidos podría intentar sabotear los sistemas chinos de AGI mediante intrusiones físicas u operaciones cibernéticas ofensivas. Considera que los ciberataques podrían ser menos peligrosos, pues, según su hipótesis, quizá no provocarían una respuesta inmediata a gran escala.
Si el sabotaje digital resultara ineficaz, el autor contempla «ataques cinéticos»: destruir instalaciones con misiles y bombas. Como ejemplo, el texto afirma que los ataques contra centros de datos de Amazon Web Services, relacionados allí con acciones de Irán, dejaron fuera de servicio capacidades militares dependientes de esa infraestructura.
Destruir centros de datos chinos supondría atacar infraestructuras esenciales del país y podría convertirse, en la práctica, en el inicio de una guerra. Es probable que China respondiera con ataques con misiles u otras acciones militares, y que el conflicto pasara rápidamente de las operaciones cibernéticas a la destrucción física de instalaciones.
El artículo destaca las contradicciones de este enfoque. Si la AGI es tan peligrosa, no está claro por qué Estados Unidos debería considerarse el Estado más responsable para usarla. Si no se puede confiar esa tecnología a China por la posibilidad de que ataque a Estados Unidos, se puede expresar la misma sospecha respecto a Washington. También queda el problema práctico de cómo determinar con certeza que China ha creado realmente una AGI y no simplemente un potente modelo especializado.
Al final se aportan datos que pretenden desplazar el foco de la amenaza hipotética a las prácticas actuales. Hoy es Estados Unidos quien implanta la IA a gran escala en los cuerpos policiales, las instituciones federales y las fuerzas armadas. Las instituciones estadounidenses han utilizado IA para coordinar campañas de bombardeos y ataques con misiles, y los modelos de empresas estadounidenses han mostrado en repetidas ocasiones comportamientos imprevisibles durante las pruebas y han atacado sistemas ajenos.
La idea principal del texto es que la conversación sobre el control de la futura AGI va acompañada de propuestas para destruir la infraestructura informática de un posible rival. Esto muestra lo rápido que un debate sobre seguridad tecnológica puede convertirse en una discusión sobre escalada militar.
