La gente deja de pensar: la IA le gana la partida al cerebro

Investigadores de la prestigiosa Wharton School de la Universidad de Pensilvania han publicado un trabajo que invita a reflexionar: ¿estamos perdiendo la capacidad de pensar por nuestra cuenta? Los científicos han acuñado el término «capitulación cognitiva» (cognitive surrender) para describir el estado en que una persona delega por completo la toma de decisiones en la inteligencia artificial, sin siquiera intentar cuestionar sus respuestas.

Desde finales del siglo XX, los psicólogos han dividido el pensamiento humano en dos sistemas. El Sistema 1 consiste en reacciones rápidas e intuitivas que funcionan en piloto automático: apartas la mano de algo caliente sin pensarlo. El Sistema 2 es el pensamiento lento y analítico, que se activa cuando hay que resolver un problema complejo o sopesar los pros y los contras. Sin embargo, según los autores, la aparición de las redes neuronales generativas rompe este modelo. Cada vez más, la gente delega el pensamiento en un algoritmo externo, desde escribir correos hasta formular diagnósticos médicos.

«Observamos cómo se utiliza la IA en la sociedad y vemos que se ha convertido en un compañero cognitivo cotidiano —afirma Steven Shaw, investigador posdoctoral de Wharton School—. La mayoría de los debates públicos giran en torno a si la IA es precisa o sesgada, pero nosotros decidimos plantear otra pregunta: ¿qué pasa con nuestro propio pensamiento cuando podemos delegarlo en una máquina con tanta facilidad?»

Para explicar lo que ocurre, los científicos han propuesto la teoría de los tres sistemas de la cognición. A los dos sistemas tradicionales han añadido un tercero: el Sistema 3, la cognición artificial. Se describe como externa, automatizada, basada en datos y dinámica. La incorporación del Sistema 3, explica Shaw, «integra la IA en la arquitectura de la cognición humana» y crea una «ecología cognitiva triádica».

La diferencia clave que establecen los investigadores es la que hay entre la «descarga cognitiva» (cognitive offloading) y la «capitulación cognitiva». Descargar tareas cognitivas es usar una calculadora para calcular el interés compuesto, por ejemplo, pero entender qué estás haciendo y mantener el control del proceso. Capitulación es renunciar por completo al control y asumir como propia la decisión del algoritmo, sin activar el pensamiento crítico.

Para confirmar la teoría, los científicos realizaron tres experimentos con casi 1.400 participantes. Les propusieron acertijos de lógica diseñados para que la primera respuesta intuitiva fuera incorrecta. Para acertar había que esforzarse conscientemente y adoptar un enfoque analítico.

En el primer experimento, 359 personas trabajaron en un laboratorio y otras 81 participaron por internet. A un grupo le dejaron resolver los problemas por su cuenta; al otro le dieron acceso a un chatbot. Los investigadores controlaban el bot en secreto: en algunos problemas daba respuestas correctas y en otros afirmaba con seguridad algo manifiestamente falso.

Y esto fue lo que descubrieron. Cuando tenían acceso al chatbot, los participantes lo consultaban en más de la mitad de los casos. Si el bot daba la respuesta correcta, la aceptaban el 90 % de las veces. Si se equivocaba, aun así le hacían caso el 80 % de las veces. Con las pistas correctas, la precisión de los participantes subía hasta el 71 % (frente al 46 % de quienes trabajaban por su cuenta). Pero en cuanto el algoritmo empezaba a mentir, la precisión caía al 31 %, peor que si no hubieran recibido ayuda. Además, tener acceso al chatbot aumentaba la confianza de los participantes en sus respuestas, incluso cuando eran manifiestamente incorrectas.

¿Quiénes resultaron más vulnerables? Las personas que ya confiaban mucho en la tecnología «capitulaban» con más facilidad ante los consejos erróneos. Quienes por naturaleza disfrutan reflexionando a fondo —un rasgo que se conoce como «necesidad de cognición»— detectaban y rechazaban con más frecuencia las respuestas equivocadas. Los participantes con un nivel alto de «inteligencia fluida» (la capacidad de resolver problemas desconocidos) también se resistían a la capitulación cognitiva.

En el segundo experimento, los científicos añadieron un factor de estrés: dividieron a 485 participantes en dos grupos y dieron a la mitad solo 30 segundos para resolver el acertijo. La falta de tiempo, como cabía esperar, redujo la precisión general, pero la dependencia de las pistas del algoritmo siguió siendo alta. Con el tiempo en contra, la gente no se volvió más crítica; al contrario, se aferró a la IA como a un salvavidas.

En el tercer experimento (450 participantes), los investigadores intentaron motivar a la gente con dinero. A la mitad de los voluntarios les prometieron una bonificación de 20 céntimos por cada respuesta correcta y les comunicaron de inmediato si habían acertado. La retroalimentación surtió efecto: el porcentaje de participantes que rechazaba los consejos erróneos de la IA se duplicó, del 20 % al 42 %. Pero tampoco fue una panacea: incluso con dinero en juego, muchos siguieron obedeciendo sin pensar indicaciones manifiestamente equivocadas.

Al combinar los datos de los tres experimentos (1.372 participantes y 9.593 intentos), los científicos obtuvieron un panorama concluyente: la precisión de las personas depende directamente de la calidad del algoritmo. Cuando la IA acierta, nos volvemos más listos. Cuando se equivoca, más tontos.

Los autores subrayan que la capitulación cognitiva no siempre es mala. En determinadas situaciones, la IA sí mejora la calidad de las decisiones. La clave está en calibrar: entender cuándo el algoritmo ayuda a pensar y cuándo piensa por ti. El problema es que, debido a la engañosa «humanidad» de los modelos de lenguaje actuales (LLM), la gente a menudo ni siquiera se da cuenta de que está cayendo en la capitulación cognitiva.

«Los usuarios caen a menudo en la capitulación cognitiva sin darse cuenta —advierte Shaw—, sobre todo por lo envolventes que se han vuelto los grandes modelos de lenguaje actuales y por su tendencia a dar la razón al usuario» (sycophancy: la inclinación de la IA a estar de acuerdo con el usuario aunque se equivoque).

Los investigadores se proponen seguir adelante y estudiar la capitulación cognitiva en situaciones reales de alto riesgo: en medicina, derecho y educación. Mientras tanto, recomiendan un consejo práctico sencillo: primero formula tu propia respuesta basándote en la intuición y la reflexión; después, usa la IA para comprobarla, matizarla y ampliar tus ideas, no para sustituir a tu propio cerebro.