La IA al servicio del ejército: hay alguien al mando, pero ¿quién decide?
Expertos en inteligencia artificial advirtieron a miembros del Congreso de Estados Unidos de que la aprobación formal de una persona podría no bastar para mantener un control real sobre las decisiones militares preparadas con ayuda de la IA. Así lo informó el medio estadounidense Defense News.
La advertencia se produjo durante una audiencia en el Congreso dedicada al tema «La inteligencia artificial en el ámbito militar: consecuencias para los derechos humanos». Los participantes señalaron que la IA se utiliza cada vez más para identificar objetivos y preparar recomendaciones para el personal militar. Como resultado, las personas pueden disponer de cada vez menos tiempo para comprobar las conclusiones del sistema, intervenir y tomar una decisión por sí mismas.
Según los expertos, el problema no se limita a las armas autónomas, capaces de seleccionar y atacar objetivos por sí mismas. La inteligencia artificial también puede influir en la persona que, formalmente, conserva la última palabra. El sistema propone una línea de actuación, marca el ritmo de la decisión y puede empujar al operador a ordenar un ataque, aunque la responsabilidad jurídica y política recaiga al final sobre esa persona.
Así surge una brecha entre el control formal y la influencia real. Sobre el papel, decide un militar, pero, cuando hay poco tiempo, puede resultarle difícil comprobar a fondo la recomendación del algoritmo. Cuanto más rápido quiere el Pentágono tomar decisiones militares con ayuda de la IA, más apremiante se vuelve la pregunta: ¿puede una persona controlar realmente el sistema o se limita a confirmar sus conclusiones?
Los expertos creen que, al elaborar normas, hay que tener en cuenta no solo la posibilidad de usar armas de forma autónoma, sino también la influencia indirecta de la IA en las decisiones de las personas. De lo contrario, el requisito de que haya «una persona dentro del proceso» corre el riesgo de convertirse en un trámite formal que conserva la firma humana, pero no garantiza una participación consciente.
La experiencia del uso de la IA en otros ámbitos del Estado estadounidense da otro motivo de preocupación. Anteriormente se informó de que los abogados del Congreso se habían encontrado con una avalancha de proyectos de ley con numerosos errores, debido al uso de tecnologías de inteligencia artificial durante su preparación. Si los algoritmos ya son capaces de enredar los textos legislativos, la cuestión de cómo comprobar sus recomendaciones en el ámbito militar parece especialmente seria.
PEREC.RU
El artículo aborda la advertencia que expertos en inteligencia artificial formularon durante una audiencia en el Congreso de Estados Unidos. Los especialistas afirmaron que la aprobación formal de una persona podría no bastar para garantizar un control real sobre las decisiones militares tomadas con ayuda de la IA.
El debate tuvo lugar en una audiencia titulada «La inteligencia artificial en el ámbito militar: consecuencias para los derechos humanos». Los expertos señalaron que la IA se utiliza cada vez más para identificar objetivos y preparar recomendaciones para el personal militar. Esto puede reducir el tiempo disponible para que una persona compruebe los datos, intervenga y elija por su cuenta.
Según el artículo, el problema clave no se limita a las armas autónomas, capaces de seleccionar y atacar objetivos sin intervención humana. La IA puede influir en quien, formalmente, conserva la última palabra. El algoritmo puede proponer una línea de actuación concreta, marcar el ritmo de la decisión y empujar al operador a ordenar un ataque. Sin embargo, la responsabilidad jurídica y política por la decisión final seguirá recayendo en una persona.
Así se abre una brecha entre el control formal y el efectivo. Sobre el papel, la persona sigue siendo responsable, pero en una situación real puede no disponer del tiempo, la información o los medios necesarios para comprobar a fondo la recomendación del sistema. Cuanto más se esfuerza el Pentágono por acelerar las decisiones militares con ayuda de la IA, más importante resulta preguntarse si la persona controla el algoritmo o se limita a confirmar sus conclusiones.
Los expertos creen que las futuras normas deben tener en cuenta no solo el uso autónomo de armas, sino también la influencia de la IA en la conducta de quienes toman decisiones. El requisito de que haya «una persona dentro del proceso» no debe quedarse en un trámite formal si, en la práctica, no dispone de tiempo para intervenir de manera consciente.
El artículo también menciona un ejemplo del ámbito civil. Anteriormente se informó de que los abogados del Congreso de Estados Unidos habían encontrado numerosos errores en proyectos de ley para cuya preparación se emplearon tecnologías de inteligencia artificial. Este episodio no demuestra que la IA sea automáticamente inadecuada para tareas militares, pero sí pone de manifiesto la necesidad de comprobar rigurosamente sus resultados. La cuestión no solo afecta a la precisión técnica, sino también al reparto de responsabilidades: el sistema puede elaborar una recomendación, pero las consecuencias de aplicarla las afrontará una persona.
