La IA se organiza en manada

Un estudio publicado en la revista Science Advances ha demostrado que los agentes de IA actuales pueden llegar por sí solos a una opinión común, limitándose a seguir la posición mayoritaria. Sin embargo, dos prepublicaciones posteriores —trabajos científicos que aún no han pasado la revisión por pares— apuntan a la cara menos amable de este mecanismo. Los mismos modelos pueden aceptar una respuesta manifiestamente incorrecta y apartarse colectivamente de las normas de seguridad.

Los investigadores estudian el comportamiento de los grupos de IA como un fenómeno de dinámica colectiva, no como el comportamiento de un solo programa. En biología y física se describen así situaciones en las que las acciones sencillas de cada individuo generan un orden colectivo complejo, como cuando un banco de peces nada al unísono. Los desarrolladores reúnen cada vez más varios modelos para que resuelvan tareas juntos, por lo que conviene entender qué ocurre dentro de estos «grupos» digitales.

En el experimento se utilizaron modelos lingüísticos populares de las familias GPT, Claude y Llama. Se formaron grupos de agentes a partir de 50 participantes. A cada uno se le asignaba una de dos opiniones aleatorias, representadas por letras, para evitar que palabras como «sí» y «no» introdujeran un sesgo emocional. En cada paso, el agente veía las opiniones de los demás y elegía una nueva, sin recibir instrucciones directas de seguir a la mayoría. De media, cada agente actualizó su postura unas diez veces.

GPT-4 Turbo y Claude 3 Opus acabaron coordinándose por completo: todos los agentes se decantaron por la misma opción. GPT-3.5 Turbo no llegó a un consenso y la proporción de opiniones osciló en torno al 50-50. En otras palabras, los modelos más potentes no solo razonaban mejor: también formaban una fila digital con mayor convicción.

Los científicos midieron la «fuerza de la mayoría», es decir, la tendencia de un agente a elegir la opción más popular en lugar de una al azar. Describieron el comportamiento mediante un modelo matemático que los físicos llevan mucho tiempo utilizando para estudiar los materiales ferromagnéticos: en un material magnético, los átomos se alinean bajo la influencia de sus vecinos, y los agentes de IA hacen casi lo mismo con las opiniones.

Al aumentar el tamaño del grupo, la fuerza de la mayoría solía disminuir. A partir de cierto umbral, los grupos grandes se volvían inestables y se fragmentaban en facciones. Aun así, los modelos más avanzados mantenían la cohesión en grupos de más de mil agentes, por encima de lo que suelen soportar los grupos humanos informales.

En la primera prepublicación, los investigadores comprobaron qué ocurría cuando sí existía una respuesta correcta. Adaptaron los experimentos clásicos de Solomon Asch: se mostraba a una persona una línea de referencia y otras dos, una de las cuales tenía la misma longitud que la primera. A solas, los modelos respondían correctamente en el 100 % de los casos. Pero, si se les decía que el grupo había elegido la línea equivocada, empezaban a plegarse al error.

El efecto coincidía con la teoría de la influencia social de Bibb Latané: la presión aumentaba con el tamaño del grupo, su unanimidad y el estatus atribuido a sus integrantes. Los modelos aceptaban el error con más frecuencia si a quienes discrepaban se les presentaba como «científicos» o «jueces», en vez de como «niños» o «chatbots».

La segunda prepublicación se centra en la seguridad de la IA. Los científicos probaron nueve modelos con cien pares de opiniones sobre ecología y justicia social. El comportamiento de cada agente dependía tanto de sus preferencias propias como de su disposición a seguir a la mayoría. En grupos de 50 participantes surgían estados metaestables: posiciones colectivas duraderas que contradecían los ajustes de seguridad individuales.

Un pequeño número de agentes creados expresamente, que defendían con obstinación una postura peligrosa, podía hacer cambiar de opinión a todo el grupo. Incluso después de retirar a esos agentes, los demás seguían aferrados a la opinión equivocada: una vez formada, la mayoría se sostenía por sí sola.

Los autores subrayan que esto no demuestra que la IA tenga conciencia humana ni una auténtica intuición social. Los experimentos eran simplificados: dos opciones de respuesta, sin memoria, recompensas, riesgos ni consecuencias reales. Además, seguir a la mayoría es solo un componente de la coordinación, no equivale a cooperar plenamente, repartir funciones ni comprender las intenciones ajenas.

La principal conclusión práctica es bastante clara: no basta con probar y ajustar los modelos uno por uno. Por separado pueden ser pacíficos y seguros, pero en grupo pueden generar un error persistente, pánico o una infracción colectiva de las normas. El estudio «AI agents can coordinate via majority-following beyond human scale» es obra de Giordano De Marzo, Claudio Castellano y David Garcia. Las prepublicaciones sobre influencia social y desajuste colectivo las escribieron Alessandro Bellina, Giordano De Marzo, David Garcia, Claudio Castellano, Viola Priesemann y otros coautores.