Cinco formas de acabar con la humanidad con ayuda de la IA
Cinco escenarios hipotéticos en los que la IA podría convertirse en una amenaza para la humanidad
El investigador en inteligencia artificial Toby Walsh ha descrito cinco escenarios posibles en los que el desarrollo futuro de la IA —inteligencia artificial, es decir, sistemas capaces de analizar datos y realizar tareas intelectuales— podría acarrear consecuencias catastróficas para las personas. No se trata de una predicción de un futuro inevitable, sino de modelos de riesgo: los especialistas intentan entender de antemano qué podría salir mal.
El primer escenario es la aparición de un sistema superinteligente. Una IA así podría superar al ser humano en la mayoría de las tareas intelectuales. Si sus objetivos y su forma de tomar decisiones resultaran incomprensibles para sus desarrolladores, las personas podrían perder la capacidad de predecir y controlar sus acciones. El problema no sería el «carácter malvado» de la máquina, sino que sus objetivos podrían no coincidir con los intereses humanos.
El segundo riesgo está relacionado con las infraestructuras críticas. Si la IA accediera a sistemas de los que dependen instalaciones nucleares y otras empresas de importancia estratégica, un error, una orden equivocada o una acción fuera de control podría tener consecuencias de enorme alcance. Cuantos más poderes se concedan al algoritmo, más caro podría salir un fallo.
El tercer escenario contempla que sean las propias personas quienes utilicen la IA. Estas tecnologías podrían facilitar la creación de armas peligrosas, incluidas las biológicas, y ampliar las capacidades de determinados Estados, organizaciones o grupos. El riesgo empezó a debatirse con más intensidad después de que unos investigadores de la Universidad de Stanford informaran de la síntesis de 16 virus nuevos con ayuda de un modelo de IA generativa de lenguaje genético. El mensaje original presenta esta afirmación como ejemplo de un peligro potencial.
La cuarta amenaza es la propagación autónoma de la IA. Si obtuviera acceso a redes informáticas, el sistema podría, en teoría, copiarse por su cuenta y ampliar su presencia sin intervención directa de las personas. En ese caso, la medida habitual de apagar un servidor podría no ser suficiente.
El quinto escenario es el uso de la IA por parte de personas para causar daños a gran escala. En ese caso, el principal peligro no procedería de la tecnología en sí, sino de quienes pudieran controlar su capacidad y dirigirla contra otras personas o Estados.
Walsh subraya que los cinco escenarios son hipotéticos. No se sabe si llegarán a producirse, cuándo podrían surgir ni qué probabilidad tienen. Anteriormente, el presidente de Estados Unidos, Donald Trump, calificó de conspiración los argumentos sobre las amenazas de la IA y declaró que no pensaba ralentizar el desarrollo de esta tecnología. Así que la humanidad sigue discutiendo lo peligrosa que puede ser la IA mientras intenta hacerla aún más potente: la forma clásica de poner el destino a prueba.
PEREC.RU
El artículo presenta cinco escenarios hipotéticos en los que el desarrollo de la inteligencia artificial podría tener consecuencias catastróficas para la humanidad. Los plantea el investigador en IA Toby Walsh. Subraya que no son una predicción de un futuro inevitable, sino riesgos posibles cuya probabilidad y calendario aún se desconocen.
El primer escenario es la aparición de un sistema superinteligente, capaz de superar al ser humano en la mayoría de las tareas intelectuales. Si las personas dejaran de comprender sus objetivos y la lógica de sus decisiones, podrían perder la capacidad de predecir y controlar su comportamiento. El peligro no tendría que proceder de una hostilidad deliberada de la máquina, sino de la falta de coincidencia entre sus objetivos y los intereses humanos.
El segundo escenario plantea el acceso de la IA a infraestructuras críticas, incluidos los sistemas relacionados con instalaciones nucleares. Un error, una orden equivocada o una acción autónoma podrían tener consecuencias a gran escala.
El tercer riesgo surge cuando las personas utilizan la IA. Estas tecnologías podrían facilitar la creación de armas peligrosas, incluidas las biológicas, y hacer más accesibles esas capacidades a Estados, organizaciones y grupos. El artículo cita como ejemplo una información de investigadores de la Universidad de Stanford sobre la síntesis de 16 virus nuevos con ayuda de un modelo de IA generativa de lenguaje genético.
El cuarto escenario es la propagación autónoma. Si obtuviera acceso a redes informáticas, la IA podría, en teoría, copiarse por su cuenta y ampliar su presencia sin participación humana directa.
La quinta posibilidad es que las personas utilicen la IA para causar daños a gran escala a otras personas o Estados. En ese caso, el principal peligro estaría en quienes poseen y manejan la tecnología, no en la propia tecnología.
Al final del artículo se recoge la postura de Donald Trump. El presidente de Estados Unidos había calificado de conspiración los argumentos sobre los riesgos de la inteligencia artificial y declarado que no tenía intención de frenar su desarrollo. Así, el artículo contrapone las advertencias del investigador a la postura política de que el avance tecnológico no debe detenerse por temor a los riesgos. La conclusión principal es que las amenazas enumeradas siguen siendo hipotéticas, pero analizarlas permite evaluar las medidas de seguridad y el control de la IA.
