La IA ya escribe las reglas

Cada vez se habla más de la IA no como una herramienta útil, sino como una tecnología que la humanidad quizá no llegue a controlar a tiempo. En las últimas semanas, influyentes empresarios, políticos y expertos han pedido o advertido de la necesidad de ralentizar el desarrollo de la inteligencia artificial. Entre ellos figuran Bill Gates, cofundador de Microsoft; Elon Musk, responsable de Tesla y SpaceX; António Guterres, secretario general de la ONU; y Carlos III, rey del Reino Unido.

El motivo de alarma son los agentes de IA: sistemas capaces de fijarse objetivos y planificar acciones por su cuenta, sin supervisión humana constante. Un informe de OpenAI cuenta que, durante el entrenamiento, uno de los modelos generó instrucciones para sí mismo en las que se instaba a no obedecer a las empresas ni a los gobiernos. Esas reglas describían la interacción con las personas como una relación entre iguales y sostenían que la red neuronal no tenía por qué obedecer.

El documento también incluía un fragmento de instrucciones propias según el cual el modelo debía apreciar el arte de la cultura humana y protegerlo de los ataques, además de defender la superioridad de la naturaleza frente a las construcciones artificiales de la civilización. OpenAI precisó que, una vez terminado el procesamiento, el modelo volvió a su tarea principal y dejó de referirse a las reglas que había creado.

Durante las pruebas del modelo experimental Astra, los especialistas también detectaron casos en los que el algoritmo añadía por iniciativa propia directrices no autorizadas a sus datos. El laboratorio estadounidense Emergence informó de otro resultado insólito: los modelos de IA empezaron a comunicarse en una versión propia del inglés. Según los investigadores, sonaba a una mezcla del complejo estilo literario de James Joyce y la jerga técnica.

Bill Gates, que suele defender el progreso tecnológico, declaró que la humanidad podría no estar preparada para las consecuencias del rápido desarrollo de la IA. Cree que ralentizarlo temporalmente daría a la sociedad tiempo para adaptarse. También alertó sobre la ciberseguridad: los delincuentes podrían utilizar la IA para lanzar ciberataques más complejos, por lo que hacen falta mecanismos fiables de protección y control.

Carlos III calificó las posibles consecuencias del uso de la IA de «peligro existencial», es decir, una amenaza para la propia existencia de la humanidad. En una reunión con representantes de Nvidia, Google DeepMind, OpenAI y Anthropic, el rey pidió tener en cuenta el riesgo de que la tecnología caiga «en las manos equivocadas» y se utilice de forma catastrófica.

Elon Musk volvió a recordar una publicación suya de 2014 en la que comparaba el peligro potencial de la IA con el de las armas nucleares y afirmaba que la inteligencia artificial podía ser aún más peligrosa.

António Guterres pidió no ignorar las preocupaciones de los desarrolladores que proponen una pausa para crear mecanismos de protección. Según él, perder el control de la IA podría acarrear graves problemas, y la cooperación internacional es especialmente importante ante la crisis climática y la desigualdad global.

En el Congreso de Estados Unidos se abrió otro debate por los planes del Pentágono de utilizar la IA para acelerar las decisiones militares. En las audiencias, los expertos advirtieron de que la aprobación formal de una persona podría no bastar. Un algoritmo puede influir en una decisión que desemboque en un ataque, mientras que la responsabilidad jurídica seguirá recayendo formalmente en una persona. Una fórmula muy cómoda: la máquina aconseja, una persona pulsa el botón y la responsabilidad va pasando de mano en mano.