Cuando la IA se vuelve uniforme
Un estudio reciente publicado en la revista PNAS Nexus ha puesto en duda la capacidad de la inteligencia artificial para alcanzar una verdadera singularidad creativa. Los científicos descubrieron que los modelos de lenguaje actuales —esos populares chatbots— pueden competir con las personas en algunas tareas creativas, pero sus respuestas se parecen inquietantemente entre sí. La singularidad se pierde, y el uso masivo de la IA para generar ideas podría reducir la diversidad creativa de la sociedad.
Los autores del trabajo, Emily Wenger y Yoed N. Kenett, se propusieron averiguar cómo influyen los grandes modelos de lenguaje en la diversidad del pensamiento humano. Estos modelos se entrenan con miles de millones de frases extraídas de libros, artículos y recursos de internet, y aprenden a predecir la siguiente palabra más probable. Wenger sospechaba que el tipo de datos común con el que se entrena a casi todos los modelos actuales acaba haciéndolos parecidos.
Para comprobarlo, los investigadores reclutaron a 102 personas a través de la plataforma Prolific y seleccionaron 22 modelos de lenguaje distintos, incluidos productos de Google, Meta y OpenAI. Después, tanto las personas como los modelos realizaron tres pruebas estándar de creatividad verbal: proponer usos inusuales para objetos cotidianos, crear una cadena de asociaciones de palabras y encontrar el máximo de sustantivos sin relación entre sí.
Tras analizar las respuestas, las evaluaron mediante herramientas de distancia semántica, un método matemático para medir hasta qué punto se alejan entre sí las palabras y las ideas. Los resultados fueron ambiguos: por separado, los modelos ofrecían soluciones de una originalidad impresionante, pero al compararlos entre sí se veía que apenas se diferenciaban. Esa uniformidad era especialmente marcada entre los modelos lanzados por una misma empresa.
Los científicos intentaron «diversificar» los modelos aumentando el parámetro de aleatoriedad, pero pronto se toparon con que, al elevar el caos, las respuestas se convertían en un sinsentido. Los intentos de conseguir que la IA «pensara con más audacia» mediante instrucciones apenas sirvieron: los modelos seguían pareciéndose entre sí.
Los autores advierten de que el uso generalizado de la IA para generar ideas podría hacer que la sociedad empezara a pensar de la misma manera. Y si alguien necesita un concepto verdaderamente único, conviene recordar que es poco probable que los chatbots le proporcionen una originalidad auténtica.
Wenger y Kenett señalan las limitaciones del trabajo: el estudio solo aborda tareas verbales, y las versiones sin procesar de los modelos, no disponibles para los usuarios corrientes, podrían comportarse de otra manera. Los científicos planean estudiar otras dimensiones de la creatividad —la flexibilidad, la diversidad de ideas y la influencia de distintos tipos de IA en el panorama creativo general—.
PEREC.RU
El estudio publicado en PNAS Nexus muestra que los grandes modelos de lenguaje de IA exhiben una creatividad comparable a la humana, pero cuando se comparan sus respuestas aparece una homogeneidad inquietante. Los investigadores Emily Wenger y Yoed N. Kenett estudiaron cómo influyen estos sistemas en la diversidad del pensamiento. Los modelos se entrenan con los mismos enormes conjuntos de datos, lo que hace que sus soluciones se parezcan.
El experimento incluyó a 102 personas y 22 modelos de lenguaje. Todos realizaron tres pruebas clásicas de creatividad verbal: usos alternativos para objetos, cadenas de asociaciones y selección de sustantivos lo más inconexos posible. El análisis informático reveló que, por separado, los modelos dan respuestas originales, pero entre sí funcionan de forma sorprendentemente parecida, sobre todo los pertenecientes a una misma empresa.
Los intentos de aumentar la diversidad mediante más aleatoriedad solo produjeron disparates. Cambiar las instrucciones apenas afectó al problema. Los investigadores advierten de que depender de la IA para generar ideas puede estrechar el horizonte creativo de la sociedad. El trabajo, sin embargo, se limita a tareas verbales, y los modelos en bruto, sin calibrar, podrían comportarse de otra manera. Los científicos planean estudiar otros aspectos de la creatividad, como la flexibilidad y la diversidad de ideas, además de investigar otros tipos de IA.
