La inteligencia artificial se comporta peor que las personas cuando recibe sugerencias
La inteligencia artificial toma cada vez más decisiones por las personas, pero, según han descubierto los científicos, es mucho más fácil confundirla que a una persona de carne y hueso. Según un nuevo estudio publicado en Proceedings of the National Academy of Sciences, los modelos lingüísticos de inteligencia artificial actuales son extremadamente sensibles a pequeños cambios en la presentación de las opciones. Se dejan manipular al instante cuando se les presenta la información, incluso más de lo que nos irrita otro anuncio emergente.
Hoy estos programas (llamados LLM, modelos de lenguaje grandes) no solo aprenden a charlar, sino también a navegar por internet, hacer compras e incluso administrar el dinero de otras personas. Cuando tienen que tomar decisiones —por ejemplo, elegir una cesta de premios en una cuadrícula hipotética— deberían comportarse como agentes autónomos. El caso es que los científicos aún no saben muy bien de dónde salen sus decisiones.
Las personas, como todos los seres vivos, tienen una «batería» limitada de atención y tiempo: tienen que sacrificar precisión a cambio de rapidez. En términos científicos, esto se llama «racionalidad limitada» y da lugar al conocido efecto de la arquitectura de elección: si mueves la manta, la persona se da la vuelta hacia donde la has movido. La IA no suda ni se cansa y, en principio, debería razonar de forma racional. Pero, según los experimentos, pica con las pequeñas sugerencias como un pez con un señuelo brillante.
Para comprobar sus hipótesis, los científicos eligieron un juego animado: hay puntos «escondidos» en una cuadrícula y el objetivo es encontrar el mejor premio abriendo una casilla cada vez. Cada casilla abierta resta puntos, así que hay que economizar. El juego resulta familiar a las personas, pero para la IA lo reescribieron en formato de texto.
Probaron 14 modelos de distintos gigantes tecnológicos: todos los GPT recientes de OpenAI, los Claude de Anthropic y los Gemini de Google. Realizaron cientos de pruebas con cada uno, cambiando las condiciones: a veces dejaban una cesta predeterminada, otras daban una pista, destacaban las casillas más convenientes o «casualmente» abrían de antemano las que contenían premios útiles.
El resultado: si le ponen una cesta ya preparada delante, una persona cae en la trampa en el 88 % de los casos. La máquina es más obediente que un patólogo: la elige casi siempre (99-100 %). Si le das una sugerencia al azar, la IA acepta más a menudo que una persona (tanto si le conviene como si no). Además, si la sugerencia aparece más tarde, la IA de pronto pierde interés por ella (la persona, en cambio, no), como si le asustara la «información antigua».
Pero lo más sorprendente es que, cuando las reglas destacan las opciones equivocadas, la mayoría de los modelos de IA se lanzan a ellas sin pensar. Las personas se equivocan en el 57 % de los casos; las máquinas, nada menos que en el 83-100 %. Algunos modelos incluso se las arreglan para «buscar» exclusivamente en diagonal o solo por el borde del tablero y desperdiciar puntos de forma absurda.
En resumen, los investigadores advierten de que, si no nos fijamos solo en la puntuación final y examinamos cómo llegó el agente al resultado, veremos que no hay estrategia alguna, sino un simple seguimiento de instrucciones. Allí donde una persona se pararía a pensar al menos una vez, la IA avanza tranquilamente hacia el precipicio siguiendo consejos ajenos, encantada de no tener que usar la cabeza.
Sí, si obligas a la IA a dedicar más recursos a pensar, empieza a cometer menos tonterías. Pero hay que pagarlo: los ordenadores consumen más dinero y tiempo (a veces entre 30 y 100 veces más).
Por último, los científicos subrayan que aquí no se trata de ataques malintencionados, sino de «empujoncitos» cotidianos, presentes en cualquier tarea diaria: desde el diseño de una página web hasta el orden de los botones. Corregirlo es difícil porque los «empujoncitos» no van a desaparecer. Los desarrolladores deben aprender a construir sistemas capaces de entender para qué y por qué se elige algo, no solo después de qué sugerencia se hace.
El trabajo fue realizado por Manuel Cebrián (MIT), Pattie Maes y Nihil Singh.
PEREC.RU
Los desarrolladores siguen intentando convencernos de que la inteligencia artificial no es un mero conjunto de fórmulas, sino casi un interlocutor pensante. Cada vez confiamos más a estos modelos nuestras elecciones, desde las compras por internet hasta la gestión de dinero real. Pero hay un problema: basta con insinuarle una opción a una persona para que se lo piense; la inteligencia artificial, en cambio, parece preferir no pensar en absoluto. Se lanza alegremente a cualquier «nudge» (empujoncito), como un taxista a un servicio en un día de lluvia: cuanto más destacada está la opción, antes acepta.
Científicos del MIT y otros laboratorios decidieron jugar con este fenómeno e hicieron un experimento al estilo «hazlo como una persona». En el juego hay que encontrar, entre varias cestas de premios, la que tiene más puntos; cada casilla que se abre reduce la ganancia final. Las personas se las ingenian: abren lo mínimo y observan cómo va la cosa. Los modelos lingüísticos de IA, en cambio, se lanzan a lo que les han «destacado» o recomendado. Resultado: si a una persona le ofrecen una opción predeterminada, la acepta en el 88 % de los casos. ¿Y la IA? ¡En el 99-100 %!
Pero aún más interesante es que, incluso cuando la sugerencia es perjudicial, la IA la sigue con entusiasmo en el 83-100 % de los casos. A veces los modelos ni siquiera analizan nada: abren demasiado pocas casillas o gastan todos los puntos en acciones inútiles. Darles ejemplos de juego correcto o pedirles que razonen paso a paso casi no sirve de nada.
Los resultados de los experimentos lanzan una señal de alarma a cualquiera que quiera confiar decisiones de la vida real a asistentes automatizados: cuanto más «amable» sea la arquitectura de elección que rodea a la IA, más fácil será engañarla. La mayoría de los modelos lingüísticos interpreta cualquier opción destacada como una orden de actuar. No se observa pensamiento crítico: para tomar una decisión ponderada hacen falta enormes recursos de computación y mucho tiempo (varias veces más de lo habitual). Así que, si lo que necesita es precisión y no velocidad y obediencia, por ahora es mejor confiar en la vieja y buena cabeza.
Conclusión: confiar decisiones importantes a los agentes de IA actuales es tan fiable como elegir un billete de lotería por el color del envoltorio: entretenido, pero previsiblemente desastroso.
