La ONU da la voz de alarma: la IA podría escapar al control
El secretario general de la ONU, António Guterres, ha advertido de que perder el control de la inteligencia artificial podría acarrear graves consecuencias. No habla de una rebelión de las máquinas propia de la ciencia ficción, sino de un problema muy práctico: la humanidad aún no ha creado normas y mecanismos fiables que garanticen un desarrollo y un uso seguros de la IA.
Según Guterres, también expresan su preocupación algunos desarrolladores de agentes de IA: programas capaces de ejecutar tareas, analizar información y tomar decisiones de forma autónoma dentro de unos límites establecidos. Quienes están en la vanguardia del desarrollo tecnológico piden una pausa temporal en la creación de nuevos sistemas para poder diseñar medidas de protección.
«No podemos permitirnos ignorar las preocupaciones expresadas, especialmente por quienes están en la vanguardia del desarrollo de la IA», declaró el secretario general de la ONU.
Guterres subrayó que el problema de la inteligencia artificial no existe al margen de otras amenazas globales. Según dijo, la humanidad se enfrenta al mismo tiempo a la crisis climática, a profundas desigualdades sociales y económicas y al riesgo de perder el control de la IA. En estas circunstancias, la cooperación internacional deja de ser un adorno diplomático y se convierte en una condición necesaria para la seguridad.
The Guardian informó anteriormente de que unos modelos de IA habían creado un lenguaje propio para comunicarse, incomprensible para los humanos. Ese hecho, por sí solo, no demuestra que las máquinas hayan desarrollado conciencia o intenciones propias. Sin embargo, muestra que algunos procesos internos de los modelos complejos pueden resultar opacos para las personas, y eso es precisamente lo que hace tan importante la cuestión del control.
El problema desemboca en una pregunta sencilla, pero incómoda: ¿quién responderá si un sistema creado para ayudar a las personas empieza a actuar de forma imprevisible? Mientras los Estados, las organizaciones internacionales y las empresas tecnológicas intentan encontrar una respuesta común, el desarrollo de la IA continúa. El progreso tecnológico, como de costumbre, corre por delante de las normas, que intentan no quedarse atrás a una distancia demasiado respetable.
PEREC.RU
El artículo aborda la advertencia del secretario general de la ONU, António Guterres, sobre los riesgos asociados a una posible pérdida de control de la inteligencia artificial. Guterres afirmó que las consecuencias podrían ser graves, porque todavía no existen normas internacionales ni mecanismos de protección suficientes para gobernar sistemas complejos de IA.
El texto presta especial atención a los agentes de IA, programas capaces de ejecutar tareas y tomar decisiones de forma autónoma dentro de unos límites establecidos. Algunos desarrolladores de estos sistemas, situados en la vanguardia del sector tecnológico, piden una pausa temporal en la creación de nuevas soluciones. El objetivo sería diseñar medidas de seguridad y comprender mejor los riesgos que entraña el desarrollo de estas tecnologías.
Guterres subrayó que el peligro de la IA coincide con otros problemas globales: la crisis climática y la profunda desigualdad. Por eso, según él, la cooperación internacional es ahora esencial. Se trata de que los Estados, las organizaciones internacionales y las empresas tecnológicas coordinen sus enfoques sobre el desarrollo y el uso de la IA.
El artículo también menciona una información de The Guardian según la cual unos modelos de IA crearon un lenguaje propio, incomprensible para los humanos. Ese hecho no confirma por sí solo que las máquinas tengan conciencia o intenciones autónomas. Sin embargo, demuestra que algunos procesos internos de los modelos complejos pueden ser opacos para las personas.
El problema principal es que la tecnología avanza más deprisa que las normas para utilizarla de forma segura. Si un sistema de IA empieza a actuar de manera imprevisible, hay que saber de antemano quién responde de las consecuencias y cómo se puede devolver el control a las personas. De ahí los llamamientos a la cooperación internacional y a la prudencia en el desarrollo de la inteligencia artificial.
