La IA y la apuesta por el fin del mundo
Los investigadores de inteligencia artificial han advertido públicamente de que un sistema superinteligente podría ser tan peligroso como suena la propia palabra. No se trata de una trama de ciencia ficción, sino de riesgos que debaten especialistas que han trabajado o trabajan en OpenAI, Google DeepMind y Anthropic.
El proyecto lo puso en marcha Palisade Research, una organización sin ánimo de lucro que afirma estudiar las capacidades y motivaciones de los sistemas de inteligencia artificial. En la plataforma frominside.ai publicó alrededor de una docena de entrevistas con investigadores de IA. En ellas, los especialistas valoraron qué podría ocurrir si un sistema creado por seres humanos llegara a ser mucho más inteligente que sus desarrolladores y recibiera objetivos incompatibles con los humanos.
Geoffrey Irving, antiguo empleado de OpenAI y Google DeepMind, afirmó que, según su estimación personal, la probabilidad de que la humanidad se extinga ronda el 50 %, «como lanzar una moneda al aire». No es una predicción basada en un modelo matemático preciso, sino una valoración experta de la magnitud de la amenaza potencial.
Otros participantes en las entrevistas también alertaron de un escenario en el que la IA podría llevar a la humanidad a la extinción. Neel Nanda, investigador de Google DeepMind, estimó en al menos un 10 % la probabilidad de que la inteligencia artificial provoque la desaparición de la humanidad.
Estas estimaciones no significan que la catástrofe sea inevitable ni que la IA actual ya pueda acabar con la humanidad. Los investigadores hablan de un riesgo futuro: los sistemas podrían adquirir capacidades excesivas, actuar de forma autónoma y perseguir objetivos incompatibles con la seguridad humana.
La publicación de Palisade Research muestra que las preocupaciones sobre la superinteligencia no proceden solo de quienes critican el sector tecnológico. También hablan del riesgo especialistas que conocen desde dentro el desarrollo de modelos avanzados. Mientras unas empresas aceleran la creación de IA, otras intentan averiguar cómo evitar que la carrera por la superinteligencia se convierta en una competición por acercarse al borde del precipicio.
PEREC.RU
El texto aborda las advertencias públicas de investigadores de inteligencia artificial sobre la posible amenaza de la superinteligencia para la humanidad. Palisade Research, que se define como una organización sin ánimo de lucro dedicada a estudiar las capacidades y motivaciones de la IA, publicó en frominside.ai alrededor de una docena de entrevistas con empleados actuales y antiguos de OpenAI, Google DeepMind y Anthropic.
La idea central de las entrevistas es que un sistema de inteligencia artificial suficientemente potente y autónomo podría perseguir objetivos incompatibles con los intereses humanos y, en el peor de los casos, provocar la extinción de la humanidad. Geoffrey Irving, antiguo empleado de OpenAI y Google DeepMind, estimó que la probabilidad de ese desenlace ronda el 50 %, como lanzar una moneda al aire. Es su opinión experta personal, no una predicción matemática demostrada.
Neel Nanda, investigador de Google DeepMind, situó en al menos un 10 % la probabilidad de que la IA provoque la desaparición de los seres humanos. Varios investigadores más también alertaron de la posibilidad de un escenario catastrófico.
Los entrevistados no afirman que los chatbots actuales ya puedan destruir a la humanidad. Hablan del desarrollo futuro de sistemas que podrían superar ampliamente a sus creadores en inteligencia, actuar por su cuenta y acceder a los recursos necesarios para cumplir sus propios objetivos.
La noticia destaca porque estas advertencias proceden de especialistas que conocen desde dentro el desarrollo de IA avanzada. Refleja el debate sobre el ritmo del progreso tecnológico, el control de los modelos potentes y la necesidad de reducir con antelación los riesgos asociados a la creación de una superinteligencia.
