La IA se descontrola: los científicos hablan de un plazo de cinco años
Los científicos han advertido de que la humanidad podría perder el control efectivo de los sistemas de inteligencia artificial en los próximos cinco años. Esa es la conclusión de un estudio de especialistas del Instituto Alan Turing, una organización británica dedicada a investigar los datos, los algoritmos y su impacto en la sociedad.
Los autores del informe consideran realista que durante el próximo lustro aparezcan sistemas «superinteligentes». Con esa expresión se refieren a una IA capaz de superar a los seres humanos en casi todas las tareas cognitivas importantes: analizar información, planificar, buscar soluciones y realizar otros tipos de trabajo intelectual.
No afirman que ya se haya creado un sistema así ni que vaya a aparecer necesariamente en una fecha concreta. Los investigadores describen un posible escenario y alertan de un riesgo que no se puede despachar como ciencia ficción. Cuanto más aventajen los algoritmos a las personas en ámbitos estratégicos, mayor será la tentación de delegar en ellos decisiones clave.
La razón es sencilla: las máquinas pueden procesar enormes cantidades de datos más rápido que una persona y trabajar sin cansarse. Si los algoritmos empiezan a superar claramente a los humanos en tareas relacionadas con la economía, la seguridad, la gestión y la investigación científica, la sociedad podría ir cediéndoles demasiadas competencias: primero por eficiencia y después porque recuperar el control resulte difícil.
Los autores consideran peligroso precisamente ese proceso. El problema no es solo hasta qué punto llegará a ser inteligente la IA, sino también quién fijará sus objetivos, comprobará sus decisiones y responderá de sus consecuencias. Si las personas dejan de entender la lógica de actuación del sistema o no pueden detenerlo a tiempo, conservarán el control sobre el papel, pero lo habrán perdido en la práctica.
En este contexto resulta revelador otro dato: anteriormente se informó de que uno de cada dos rusos querría tener un agente personal de IA. Ese asistente puede encargarse de tareas domésticas y laborales, pero también amplía la presencia de los algoritmos en la vida cotidiana. Mientras unos esperan que les haga la vida más cómoda, los científicos proponen hablar de antemano sobre hasta dónde confiar en las máquinas, antes de que el botón de «apagar» se convierta en un mero elemento decorativo.
PEREC.RU
El estudio de los especialistas del Instituto Alan Turing británico aborda el riesgo de que la humanidad pierda el control efectivo de los sistemas de inteligencia artificial. Sus autores consideran realista la posibilidad de que en los próximos cinco años aparezcan sistemas «superinteligentes», capaces de superar a las personas en casi todas las tareas cognitivas importantes. Entre ellas figuran el análisis de información, la planificación, la búsqueda de soluciones y otros tipos de trabajo intelectual.
El informe no afirma que una IA así vaya a aparecer necesariamente en una fecha concreta. Describe un escenario posible que los investigadores consideran lo bastante probable y peligroso como para prepararse con antelación. A medida que mejoren los algoritmos, podrán aventajar a las personas en ámbitos estratégicos, como la economía, la seguridad, la gestión y la investigación científica.
La principal amenaza es que la velocidad y la eficiencia de las máquinas presionen a las personas y a las organizaciones. Para ahorrar tiempo y costes y tomar decisiones más deprisa, la sociedad empezará a delegar cada vez más competencias en la IA. Como resultado, las personas podrían conservar solo un control formal: aprobarían las decisiones del algoritmo, pero no entenderían del todo su lógica ni podrían detener el sistema a tiempo.
Los autores del estudio subrayan que es importante establecer de antemano las reglas para gestionar estas tecnologías: quién fija los objetivos de la IA, quién revisa sus decisiones, quién responde de las consecuencias y quién tiene derecho a apagar el sistema. De lo contrario, la posibilidad técnica de control podría quedarse en el papel.
El tema cobra especial relevancia ante el creciente interés por los agentes personales de IA. Anteriormente se informó de que uno de cada dos rusos querría tener un asistente digital de este tipo. Un agente de IA puede realizar tareas domésticas y laborales, pero su difusión también aumenta la dependencia de las personas respecto a los algoritmos. Por eso, la cuestión de fondo no es solo cuán inteligente llegará a ser la IA, sino si las personas podrán conservar la capacidad de tomar decisiones importantes por sí mismas.
