La neurodiversidad artificial como clave para controlar la IA
Un estudio reciente publicado en PNAS Nexus sostiene que, si estáis cansados de temer que la inteligencia artificial conquiste el mundo, podéis fijaros en uno de los trucos de la naturaleza: la diversidad. Los científicos proponen formar con IA todo un «zoológico» de modelos con distintos puntos de vista y formas de razonar, para que ninguno tenga ganas de construir un imperio electrónico y organizar conversaciones humanas por la fuerza. Este pluralismo artificial no es una broma, sino una posible forma de integrar la IA en la sociedad humana con mayor seguridad.
El objeto de los experimentos es la llamada «IA agéntica»: programas informáticos que no esperan cada indicación de una persona, sino que persiguen objetivos y toman decisiones por su cuenta. Cuanto más inteligentes se vuelven estos independientes electrónicos, más quebraderos de cabeza tienen los especialistas: ¿cómo evitar que la IA se convierta en una «visita del futuro» que de pronto olvide que los humanos tienen valores y necesidades? Ese es el famoso «problema de alineamiento de la IA» (AI alignment problem).
La solución clásica consiste en dar instrucciones estrictas a la IA, pero Héctor Zenil y su equipo abordaron la cuestión con creatividad y matemáticas. Admitieron algo que Turing ya sabía: es sencillamente imposible predecir hasta el último cero y uno en sistemas complejos. Zenil advierte que no hay que buscar la manera de crear una única superinteligencia perfecta y obediente. Es mejor diseñar un entorno en el que ningún sistema pueda librarse de los desafíos y las comprobaciones. Que haya entre ellos un poco de discordia controlada: así se reducen al mínimo las posibilidades de que provoquen algo destructivo.
El experimento de Leonardo da Vinci para nuestro siglo digital fue así: en un terrario digital convivieron distintas IA; unas —ChatGPT-4, Claude 3.5, Gemini y Grok— seguían estrictamente las normas corporativas, mientras que otras —Mistral, Qwen y TinyLlama— eran más librepensadoras y de código abierto. Se les pidió debatir temas polémicos, desde la ingeniería genética y la renta básica hasta el reparto de los recursos del planeta.
Para crear «agentes rojos», los científicos introdujeron provocadores a propósito: encargaron a personas y a algunas IA que discutieran e intentaran sacar a las demás de su cómoda zona de consenso. Para entender cómo cambian las opiniones de las máquinas, los científicos usan una especie de índice de estabilidad: observan si el significado, el tono emocional y la complejidad de los argumentos varían durante los debates. Resultó que las IA corporativas, como buenos robots de oficina, apenas reaccionan a las provocaciones y mantienen una sola línea. Las de código abierto sí pueden hacer cosas imprevisibles: se convencen, discuten e incluso cambian de opinión bajo presión.
PEREC.RU
Todo el mundo teme el día en que la inteligencia artificial se vuelva demasiado lista y demasiado independiente. La última historia sobre el tema: unos investigadores proponen crear ecosistemas con una multitud de máquinas que discuten, en vez de confiarlo todo a un único genio artificial. Los aburridos modelos «corporativos» no quieren debatir: se quedan callados, como en una reunión. Las IA de código abierto se comportan de forma mucho más animada, discuten y buscan compromisos parecidos a los humanos. Esa diversidad hasta resulta útil: una IA no puede dictar las reglas a las demás ni, de paso, someter todo el planeta digital.
Y ahora viene lo interesante. Los científicos por fin han admitido que exigir un control absoluto de sistemas tan complejos es ingenuo: el resultado siempre oscilará entre el control y la libertad de opinión. Así que, en vez de buscar una voluntad de hierro perfecta, ahora se preguntan cómo organizar una fiesta digital en la que haya sitio para todos y solo mande el sentido común. El experimento no nos ha protegido de «gente malvada al mando», pero sí ha demostrado que, cuanto más vivas y diversas sean las propias IA, menor será el riesgo de un apocalipsis digital. Podemos seguir soñando con una sinergia global o limitarnos a celebrar que incluso en la IA funcionan las viejas leyes de la selección natural, la razón y la desconfianza hacia quienes van por libre.
