Un virus de IA y un ejército de electrodomésticos: ¿hasta qué punto es real la amenaza?

La empresa estadounidense Anthropic, que desarrolla sistemas de inteligencia artificial, ha publicado un estudio sobre la posible amenaza para los dispositivos del internet de las cosas: electrodomésticos y aparatos electrónicos conectados a la red. Según los investigadores, en los próximos meses pequeños modelos de IA podrían aprender a propagarse por sí solos entre esos dispositivos. Se trataría de un escenario sin un servidor central de mando que pudiera detectarse y desconectarse.

En uno de los experimentos, los especialistas utilizaron 15 decodificadores de televisión baratos y ejecutaron en ellos un pequeño programa de IA capaz de funcionar en equipos corrientes. Actuaba con lentitud, pero completaba las tareas. En concreto, sin instrucciones ni pistas, el programa logró entender cómo funcionaban ocho tipos distintos de dispositivos.

En otra prueba, se pidió a un modelo más avanzado que se copiara a sí mismo y pasara de un dispositivo a otro. En una red virtual aislada, completó todo el ciclo de propagación autónoma. Conviene matizarlo: la demostración se llevó a cabo en un entorno simplificado, no en una red real de electrodomésticos.

Según Anthropic, las redes neuronales de acceso público ya pueden realizar etapas concretas de un ciberataque, pero todavía suelen cometer errores cuando intentan encadenarlas de forma continua. El experimento muestra que un modelo más potente podría realizar esa tarea en condiciones controladas. Los investigadores creen que a los modelos pequeños podrían bastarles unos meses para adquirir la capacidad de propagarse por dispositivos comerciales del internet de las cosas, como decodificadores de televisión y hornos inteligentes.

El riesgo está relacionado con la arquitectura del ataque. El software malicioso tradicional suele recibir órdenes de un servidor central: si se localiza y se desconecta, puede interrumpirse el control de la red de dispositivos infectados. Un sistema autónomo, en el que los dispositivos infectados buscan por sí mismos nuevos objetivos y transmiten la amenaza, carece de un centro único de control. Por eso, detenerlo podría resultar más difícil. En la publicación, Anthropic advierte de que un escenario así quizá no tenga un único «botón de apagado».

A principios de octubre también se informó de que directivos de grandes empresas estadounidenses de IA, entre ellas Anthropic y OpenAI, estaban simulando las consecuencias de un ciberataque a gran escala capaz de alterar el funcionamiento de bancos, redes eléctricas e internet. Se señaló como motivo un ataque contra bancos surcoreanos: según las informaciones, un hacker de China utilizó IA para robar datos de clientes. Después, el Congreso de Estados Unidos volvió a debatir la idea de desconectar de emergencia las redes neuronales más avanzadas.

Aun así, los expertos subrayan que actualmente no existe un virus de IA plenamente autónomo. Su aparición se contempla como un posible escenario a corto plazo; la publicación admite que podría ocurrir a finales de año. No se garantiza una fecha concreta.

Para reducir el riesgo, harán falta medidas coordinadas de los fabricantes de dispositivos, los proveedores de internet y los desarrolladores de IA. Entre los posibles objetivos están los frigoríficos, los robots aspiradores, los televisores y otros aparatos conectados. El principal peligro no tiene por qué estar en una hostilidad deliberada de las máquinas: una red autónoma de dispositivos también puede causar daños por errores o acciones incorrectas. Por ahora se trata de una advertencia y una demostración de laboratorio, no de un virus que ya haya tomado el control de los electrodomésticos de los hogares.