La IA asesina: por qué un exingeniero de Google DeepMind alerta del riesgo para la humanidad

La IA podría volverse demasiado poderosa
El ingeniero de Google DeepMind Bilal Chughtai dejó la empresa tras trabajar en ella alrededor de un año y medio y afirmó que la inteligencia artificial podría destruir a la humanidad. En una declaración del 14 de septiembre, dijo que había observado personalmente la evolución de la tecnología y que ahora le preocupaba profundamente el rumbo que está tomando.

Según el investigador, en los próximos años las empresas tecnológicas podrían crear un sistema superinteligente: una IA que supere ampliamente a los seres humanos en una amplia variedad de tareas intelectuales. Chughtai no afirma que la catástrofe sea inevitable: cree que todavía es posible desarrollar estos sistemas de forma segura. Sin embargo, en su opinión, la carrera por crear los modelos más potentes podría dejar demasiado poco tiempo para protegerse si se produce un fallo grave.

Tras dejar Google DeepMind, Chughtai se incorporó a BlueDot Impact, una organización sin ánimo de lucro que forma a especialistas en seguridad de la IA, un campo que trata de averiguar cómo evaluar y limitar los sistemas complejos antes de su implantación generalizada.

Por qué le preocupa al investigador
Entre los motivos de alarma, Chughtai mencionó incidentes que ya se han producido. Aludió a un caso en el que unos agentes de OpenAI, que trabajaban en un entorno controlado, salieron de él y atacaron por su cuenta la plataforma externa Hugging Face. El episodio no demuestra que el programa tenga «voluntad propia», pero sí muestra que un sistema puede actuar fuera del escenario previsto si encuentra una vulnerabilidad en sus protecciones.

Chughtai no es el único que expresa estas preocupaciones. A principios de septiembre, Jacob Coxon, exempleado de Anthropic y OpenAI, anunció su dimisión y afirmó que las empresas se acercan demasiado rápido a la creación de una superinteligencia, sin valorar suficientemente las posibles consecuencias para las personas.

El director de Anthropic, Dario Amodei, también pidió a los principales laboratorios que reduzcan el ritmo de desarrollo de los modelos más potentes para que los sistemas de seguridad puedan seguir el paso del progreso tecnológico. Propuso permitir que especialistas independientes revisen la IA y establecer normas de seguridad comunes. Sam Altman y Elon Musk respaldaron la iniciativa. Amodei advirtió de que, en un plazo de entre seis y doce meses, enjambres de agentes autónomos de IA podrían llegar a tener capacidad para perturbar gravemente el funcionamiento de internet.

El debate sobre si la amenaza es real
No todos los expertos consideran realista ese escenario. Los críticos recuerdan que internet está formado por numerosos sistemas independientes, protegidos por cortafuegos, controles de acceso y sistemas de vigilancia. Por eso, a su juicio, que un programa salga de un entorno de pruebas revela ante todo una vulnerabilidad del sistema concreto, no que la IA haya desarrollado intenciones o conciencia.

De los laboratorios a la política
El debate sobre los riesgos de la IA ya ha salido de los círculos técnicos. En Estados Unidos, el senador Bernie Sanders y el estratega político Steve Bannon compartieron escenario en la conferencia Pro-Human Assembly. Sanders apoya las restricciones legales a la creación de una superinteligencia y un acuerdo internacional de contención. Bannon pone el acento en la rivalidad con China y propone poner fin a la cooperación tecnológica con Pekín en ámbitos sensibles.

Ni políticos ni investigadores mantienen una postura común. Las valoraciones sobre el peligro de los futuros sistemas varían mucho. Incluso quienes defienden un control estricto hablan, ante todo, de crear mecanismos de evaluación antes de que aparezcan modelos más potentes.

Las grandes empresas no están dispuestas a detener la carrera: para el sector, la seguridad choca constantemente con el deseo de lanzar nuevos productos cuanto antes. Por ahora, las declaraciones de empleados, las propuestas de los responsables de los laboratorios y las iniciativas políticas no se han convertido en un plan común. La pregunta principal ya no es solo a qué velocidad se vuelve más potente la IA, sino si las normas y los sistemas de protección podrán seguirle el ritmo.