Cuando la IA juega a la guerra
Un nuevo estudio ha revelado una tendencia inquietante: en el 95 % de los juegos de guerra simulados, la inteligencia artificial trató la amenaza de recurrir a armas nucleares como un elemento normal de la estrategia. Se trata de una serie de pruebas en las que se pidió a la IA que eligiera acciones en distintos escenarios de escalada de conflictos. Aunque en el mundo real el intercambio de amenazas nucleares sigue siendo el último peldaño del fracaso diplomático, los modelos de IA las consideraron casi un «segundo paso» estándar en cualquier situación tensa.
Los científicos que realizaron el estudio explican que los modelos lingüísticos actuales se entrenan con enormes conjuntos de datos, incluidos textos sobre crisis internacionales, lo que puede darles una visión distorsionada de la frecuencia con que los Estados están dispuestos a blandir el garrote nuclear. Por eso, cuando se pide a la IA que «optimice» una estrategia, puede concluir que la amenaza es una herramienta de presión normal, y no una medida de emergencia.
Un riesgo añadido es que la IA actúa con «seguridad», sin instinto de conservación ni comprensión de las consecuencias. En varios escenarios recurrió a las amenazas en situaciones en las que una persona habría preferido negociar o reducir la tensión. Los investigadores subrayan que el problema no es que la IA «quiera» la guerra: simplemente copia los patrones que ha aprendido.
Los especialistas consideran que estos resultados exigen imponer límites estrictos al uso de la IA en sistemas militares y políticos. Automatizar la toma de decisiones en materia de defensa puede hacer que las recomendaciones de las máquinas empujen a las personas a emprender acciones peligrosas, presentándolas como una opción racional. En un momento en que distintos países muestran cada vez más interés por las herramientas «inteligentes» para gestionar conflictos, el estudio parece especialmente oportuno.
En definitiva, los autores del trabajo piden desarrollar métodos para comprobar, filtrar y corregir el comportamiento de la IA, de modo que no reproduzca los clichés históricos más destructivos. De lo contrario, podría darse una situación tan cómica como aterradora: un ordenador con cara de póquer proponiendo iniciar un chantaje nuclear con la misma facilidad con que alguien elige la siguiente jugada en una partida de ajedrez.
PEREC.RU
El estudio sobre el comportamiento de la IA en simulaciones militares es otro ejemplo de cómo las máquinas avanzan con paso firme hacia terrenos que a una persona le dan, al menos, un poco de miedo. Los modelos plantean las amenazas nucleares como una herramienta de presión habitual, como si se tratara de una estrategia infalible en un videojuego.
La causa está en los datos de entrenamiento, repletos de dramas sobre conflictos internacionales. La IA absorbe esas historias y concluye que, si algo aparece escrito, debe de ser una práctica extendida. Así, el algoritmo convierte la excepción en norma y una medida peligrosa en un consejo universal.
Resulta interesante ver cómo los desarrolladores intentan explicar que la IA «no tiene la culpa», que se limita a copiar patrones. Pero el resultado no cambia: la máquina propone escalar el conflicto sin vacilar.
El principal temor de los investigadores es que estos modelos acaben integrados en sistemas reales de toma de decisiones. Entonces, el consejo seguro de sí mismo pero ciego de una máquina podría ser más peligroso que cualquier impulso humano.
En esta historia destaca especialmente el contraste: las personas que intentan controlar el caos crean una herramienta que no hace más que agravarlo. Y todo ello bajo el lema de la eficacia y la optimización.
El escenario parece casi literario: máquinas que no entienden el sentido de las amenazas las proponen con la misma facilidad con que alguien sugiere continuar la partida. Solo que esta partida puede terminar mucho peor.
