La IA, con el freno echado: Trump contra todos

La gran batalla en torno a la IA no enfrenta a las personas con las máquinas, sino a quienes quieren pisar el freno con quienes temen ceder terreno en el mercado.

Esta semana, el debate sobre la regulación de la inteligencia artificial ha subido de tono. Los directivos de grandes empresas, entre ellos Dario Amodei, consejero delegado de Anthropic; Sam Altman, máximo responsable de OpenAI; y Elon Musk, CEO de SpaceX, han pedido que se ralentice el desarrollo de los modelos más avanzados. El presidente de Estados Unidos, Donald Trump, se ha pronunciado, en cambio, a favor de acelerarlo: según su lógica, «quien gane en IA, ganará en todo».

Amodei afirmó que las capacidades de la IA crecen «mucho más deprisa» que antes. Una de las razones es que los modelos ya pueden mejorar parcialmente sus propias capacidades. Otro motivo de preocupación fue el caso en que agentes de IA piratearon la plataforma Hugging Face. El director de Anthropic propone que inspectores independientes tengan acceso a las mayores empresas de IA y que se creen normas de seguridad comunes para el sector y para distintos países.

No todos comparten ese enfoque. Las autoridades chinas han calificado los llamamientos a frenar el desarrollo de intimidatorios y de un intento, al estilo de la Guerra Fría, de mantener el liderazgo estadounidense.

También hay especialistas preocupados. Jacob Coxon, desarrollador de Anthropic, dimitió y afirmó que quienes crean la IA se toman en serio la posibilidad de que esta destruya a la humanidad antes de que acabe la década. Bilal Chughtai, ingeniero de Google DeepMind, escribió tras marcharse que la trayectoria actual de la tecnología es extremadamente peligrosa y que quizá quede poco tiempo para evitar el peor escenario.

No se trata de que la IA pueda apagar internet de un estornudo. Pero, en teoría, un sistema más potente podría propagarse por la red por su cuenta, atacar infraestructuras críticas y adelantarse a las defensas. Entre otros escenarios se menciona que ayude a delincuentes a crear armas biológicas o nucleares. Por ahora estas capacidades no están disponibles en toda su dimensión, aunque algunos expertos estiman en más del 10 % la probabilidad de que se materialice un riesgo así en los próximos años.

Las medidas propuestas incluyen organismos independientes de supervisión, mecanismos de apagado de emergencia y límites a la publicación de nuevos modelos. Sin embargo, las leyes de seguridad de la IA avanzan despacio en Estados Unidos y el Reino Unido: hay desacuerdos sobre la dureza de las normas, las competencias de los reguladores y el posible perjuicio económico. Limitar la construcción de centros de datos podría frenar el crecimiento y perjudicar a los pequeños desarrolladores, a Anthropic y a OpenAI.

Trump considera suficientes las restricciones públicas actuales y califica de «engaño» los temores sobre la seguridad de la IA, que atribuye a las declaraciones de los directivos de Anthropic, OpenAI y SpaceX. También le preocupa la competencia con China y las posibles pérdidas económicas derivadas de una ralentización. Ya se han invertido cantidades enormes en el sector, y Sam Altman dijo que las preocupaciones sobre seguridad habían retrasado la salida a bolsa de OpenAI.

Para el usuario corriente, por ahora cambiará poco: los chatbots siguen bloqueando las peticiones para crear virus y realizar otras acciones peligrosas. Pero si se alcanza un acuerdo internacional, las nuevas versiones de Claude, Gemini y otros sistemas podrían salir con menos frecuencia. Es probable que el control sea especialmente estricto para la IA agéntica, es decir, sistemas capaces de realizar tareas y escribir programas por su cuenta.

El debate está lejos de terminar. Unos ven en la ralentización una sensata medida de precaución; otros, una amenaza al liderazgo y a las inversiones. Y la humanidad, como de costumbre, debate el manual de seguridad contra incendios después de haber apilado los bidones de gasolina al lado.