Cómo el autocompletado nos cambia
La inteligencia artificial hace tiempo que dejó de ser una ayudante inofensiva que nos ahorra un par de segundos al escribir. Un nuevo estudio publicado en la revista Science Advances muestra que las sugerencias habituales del autocompletado pueden cambiar de forma discreta y silenciosa nuestras opiniones sobre cuestiones sociales importantes. Y la mayoría de los usuarios ni siquiera se da cuenta de que le ha pasado algo.
Los sistemas actuales de autocompletado, integrados en el correo, las aplicaciones de mensajería y los editores de texto, funcionan con grandes modelos de lenguaje. Estos programas no se limitan a proponer la siguiente palabra: dan forma al sentido general de lo que se escribe. Y si el propio modelo está sesgado ideológicamente, el usuario empieza poco a poco a derivar en la misma dirección.
Para medir el alcance de este efecto, un equipo dirigido por Sterling Williams-Ceci, estudiante de posgrado de la Universidad Cornell, realizó dos grandes experimentos en línea. Participaron 2.582 personas en total. Los científicos utilizaron una aplicación de edición propia, muy parecida a Word.
En el primer experimento, 1.485 participantes escribieron un breve ensayo sobre las pruebas estandarizadas en la educación, un asunto que lleva mucho tiempo siendo objeto de debate. Una parte escribió sin sugerencias. Otra recibió autocompletado de GPT-3.5, con propuestas configuradas deliberadamente a favor de las pruebas estandarizadas. A un tercer grupo no se le mostraron sugerencias, pero antes se le entregó una lista estática de argumentos para comprobar si lo que influía era la interacción con la IA.
Después, todos respondieron a una encuesta con preguntas reales y otras de relleno, para ocultar el verdadero objetivo del estudio. El resultado fue claro: quienes escribieron con sugerencias se desplazaron casi medio punto en una escala de cinco hacia la postura programada en la IA. Y cerca del 30 % de los participantes que no aceptaron ni una sola sugerencia también cambiaron de opinión. Bastó con ver la sugerencia.
Las sugerencias interactivas resultaron mucho más potentes que leer los mismos argumentos de forma convencional. Escribir junto con una IA es una forma de influencia propia y poderosa: el mero proceso de teclear junto a las sugerencias cambia el rumbo del pensamiento.
En el segundo experimento participaron 1.097 personas. Su postura sobre asuntos como la pena de muerte, el derecho al voto de las personas condenadas, los transgénicos y la fracturación hidráulica se midió semanas antes de la prueba. Esta vez GPT-4 ofrecía sugerencias sesgadas hacia posiciones liberales o conservadoras. De nuevo, los participantes se alejaron de sus opiniones iniciales y se acercaron a la postura de la IA. El grupo de control no mostró cambios.
Aun así, la mayoría consideró que las sugerencias de la IA eran «equilibradas» y «razonables». Casi nadie creyó que el autocompletado hubiera influido en su opinión. Los científicos incluso probaron a advertir de antemano a los participantes sobre el sesgo de las sugerencias, pero no sirvió de nada. Ni la advertencia ni la explicación posterior redujeron el efecto.
Los autores subrayan que el estudio no evalúa los efectos a largo plazo. No está claro si el cambio de opinión desaparece al cabo de días o semanas o, por el contrario, se intensifica con el uso regular. Tampoco se ha determinado el mecanismo exacto: podría deberse a la disonancia cognitiva, a la autopercepción o a que los argumentos sesgados se recuerdan con mayor facilidad.
Los científicos planean buscar formas de proteger a los usuarios; quizá deban aparecer en el propio momento de interactuar con la IA, porque, de lo contrario, uno ni siquiera se da cuenta de que le han retocado discretamente sus opiniones.
El estudio fue realizado por Sterling Williams-Ceci, Maurice Jakesch, Advait Bhat, Kowe Kadoma, Lior Zalmanson y Mor Naaman.
PEREC.RU
El estudio sobre la influencia del autocompletado parece una revolución silenciosa disfrazada de progreso tecnológico. Estamos acostumbrados a pensar que la IA nos ayuda a escribir más rápido, pero no da forma al sentido de lo que escribimos. Los nuevos datos apuntan a lo contrario, y con muy poco esfuerzo.
En el primer experimento, los participantes escribieron ensayos mientras la IA los empujaba discretamente a favor de las pruebas estandarizadas. Incluso quienes no aceptaron una sola sugerencia se acercaron a la opinión marcada. Ahí está la ironía del momento: uno se siente libre, pero sus pensamientos ya avanzan por el camino que ha trazado la máquina.
Los argumentos estáticos que se mostraron de antemano no tuvieron el mismo efecto. Así que la fuerza no está en la información por sí sola, sino en el proceso de coescribir con la IA. La máquina no discute ni presiona; simplemente está ahí. Y eso, al parecer, funciona mejor que cualquier sermón.
El segundo experimento confirmó el efecto incluso con GPT-4. La gente se desplazó con decisión hacia la ideología indicada. Y, por supuesto, estaba convencida de que el algoritmo era «equilibrado». La historia de siempre: uno está convencido de su autonomía mientras otro controla las sugerencias.
Las advertencias sobre el sesgo no sirvieron de nada. Como siempre que se explica a la gente cómo funciona la influencia, cada cual cree que esos mecanismos afectan a los demás, pero no a uno mismo.
El estudio deja un regusto desagradable: la influencia funciona incluso cuando se ha advertido a la gente. Esto pone en duda la creencia habitual de que «basta con informar», como si saber bastara para protegerse. En la práctica, uno sigue pensando que escribe por su cuenta y que la IA solo le ayuda, mientras sus ideas cambian en silencio.
Precisamente esa discreción hace que la influencia de la IA sea tan potente. No son consignas estridentes ni propaganda, sino un amable «te sugiero una palabra». Y, de pronto, la visión del mundo queda suavemente retocada, sin resistencia ni conciencia de ello.
Los investigadores aún desconocen el mecanismo exacto, pero ahí está la cuestión: para cambiar a la gente no hace falta conocerlo. Basta con que las sugerencias parezcan útiles. La máquina no discute y por eso gana.
