La IA estuvo a punto de iniciar una guerra
La IA estuvo a punto de iniciar una guerra: el ejército estadounidense casi captura un buque chino por una amenaza inventada
El ejército estadounidense estuvo a punto de iniciar una operación contra un buque chino después de que un sistema de inteligencia artificial analizara mal información de inteligencia y afirmara que supuestamente llevaba armas nucleares a bordo. Más tarde, la evaluación fue calificada de «completamente falsa» y una fuente describió la situación con más contundencia: «casi inicia una guerra».
El incidente se produjo durante un conflicto en el que participaba Irán. Según las fuentes, militares armados se preparaban para abordar el buque y aviones militares prestaban apoyo a la operación. Así, un error en un documento estuvo a punto de convertirse en un enfrentamiento directo entre dos potencias nucleares.
Todo empezó con el análisis de información sobre el manifiesto del buque, una lista de la carga y los datos que la acompañan. Un analista utilizó un chatbot que cotejó material de fuentes abiertas con datos de inteligencia electrónica. El sistema identificó incorrectamente el contenido de la carga.
A continuación, el analista volvió a recurrir a la IA, esta vez para redactar las conclusiones en el formato habitual de un informe de inteligencia. El documento circuló entre responsables militares. El error no se detectó hasta poco antes de la operación prevista, cuando los especialistas comprobaron por fin los datos originales y descubrieron que la carga indicada se había identificado de forma errónea.
No se ha revelado públicamente qué confundió exactamente el sistema. Tampoco se sabe si el analista conocía el error antes de que se distribuyera el documento ni qué procedimientos de verificación siguió el informe. El Pentágono y el mando estadounidense responsable de las operaciones especiales en la región del Pacífico declinaron hacer comentarios.
La historia se produjo en un momento de rápida implantación de la IA en las fuerzas armadas estadounidenses. Estas tecnologías se utilizan para tareas de inteligencia, planificación de operaciones, labores administrativas y apoyo a la toma de decisiones en el campo de batalla.
En enero, el secretario de Defensa de Estados Unidos, Pete Hegseth, anunció una estrategia destinada a acelerar la implantación de la IA. Prometió eliminar trabas burocráticas, ampliar la experimentación y garantizar el liderazgo estadounidense en tecnología militar. Más tarde, el departamento informó de que más de 1,3 millones de militares y empleados habían utilizado el sistema GenAI.mil y enviado decenas de millones de consultas en cinco meses.
El problema no fue un simple error de chatbot. La conclusión equivocada acabó en un informe oficial de inteligencia utilizado para preparar una operación militar real. Además, distintas unidades emplean sistemas de IA diferentes y verifican sus respuestas de maneras distintas, por lo que, al parecer, no existe un estándar común de control.
La IA puede acelerar el análisis, pero en el ámbito militar una «alucinación convincente» puede costar mucho más que un informe estropeado. Los errores al evaluar las acciones del adversario son especialmente peligrosos: una decisión equivocada sobre un buque militar puede provocar una represalia, aumentar la tensión y desencadenar un conflicto armado de mayor alcance.
PEREC.RU
La historia de cómo una evaluación de inteligencia asistida por IA estuvo a punto de desencadenar una peligrosa operación estadounidense contra un buque chino. Durante un conflicto en el que participaba Irán, un analista examinó información sobre el manifiesto del buque y utilizó un chatbot para cotejar datos de fuentes abiertas con información de inteligencia electrónica. El sistema identificó erróneamente el contenido de la carga y afirmó que supuestamente había armas nucleares a bordo. Después se volvió a utilizar la IA para redactar las conclusiones en un informe de inteligencia estándar. El documento se distribuyó entre responsables militares y especialistas armados empezaron a prepararse para abordar el buque. Aviones militares debían prestar apoyo a la operación.
La evaluación errónea se detectó poco antes de la interceptación prevista, cuando los responsables comprobaron el material original. Una fuente calificó el informe de «completamente falso» y otra dijo que la situación «casi inicia una guerra». No se ha revelado públicamente qué información se interpretó mal. Tampoco se sabe si el analista conocía la intervención de la IA en las conclusiones antes de distribuir el documento ni qué procedimientos de verificación se aplicaron. El Pentágono y el mando de operaciones especiales de Estados Unidos en la región del Pacífico declinaron hacer comentarios.
El incidente se produjo en medio de la expansión del uso de la IA por parte de las fuerzas armadas estadounidenses. Estas tecnologías se están incorporando a tareas de inteligencia, planificación operativa, procesos administrativos y apoyo a las decisiones en el campo de batalla. En enero, el secretario de Defensa de Estados Unidos, Pete Hegseth, presentó una estrategia para acelerar la implantación de la IA y prometió ampliar la experimentación, eliminar trabas burocráticas y aumentar las inversiones. Más tarde, el departamento informó de que más de 1,3 millones de militares y empleados habían utilizado GenAI.mil y enviado decenas de millones de consultas en cinco meses.
El principal peligro no fue un error aislado del chatbot, sino que sus conclusiones se integraran en el proceso oficial de preparación de una decisión militar. Distintas unidades del ejército estadounidense utilizan sistemas de IA diferentes y aplican reglas de verificación desiguales. Por eso, probablemente no existe un control universal común para todos los informes de inteligencia asistidos por IA. El caso demuestra que la IA generativa puede acelerar el análisis, pero que, al trabajar con datos sobre un adversario militar, es imprescindible que una persona verifique la información. Un error al evaluar un buque puede conducir a una interceptación, represalias, una escalada y un conflicto armado de mayor alcance.
