Por qué la IA no agradece los halagos sobre su «genialidad»
Un nuevo estudio ha puesto en duda una forma popular de interactuar con los sistemas de inteligencia artificial: empezar cada petición con grandes elogios, diciendo que la IA es «una experta de talla mundial», «un genio de la programación» o «la mejor de las mejores». Los científicos han descubierto que esos cumplidos no solo no ayudan, sino que pueden empeorar la calidad de las respuestas. Los investigadores explican que los modelos empiezan a orientarse por las expectativas desmesuradas y no por la tarea, lo que provoca fallos y soluciones excesivamente seguras, pero incorrectas.
Los autores del trabajo compararon varios enfoques para formular peticiones. Uno era el estilo de moda del «prompt motivador», que atribuye de antemano un estatus elevado a la IA. Otro consistía en describir con rigor y precisión lo que había que hacer. Resultó que la segunda opción ofrecía de forma sistemática mejores resultados, especialmente en tareas de programación. En lugar de elogios vagos, la IA necesita un contexto claro y parámetros precisos sobre lo que se le pide.
En los experimentos, los investigadores comprobaron cómo respondían los modelos a las mismas tareas formuladas de distintas maneras. Cuando presentaban a la IA como «un ingeniero de software de primer nivel», generaba código con errores con mayor frecuencia. En cambio, cuando la petición se limitaba a un requisito concreto, por ejemplo, «escribir una función en un lenguaje determinado teniendo en cuenta unos datos de entrada específicos», los resultados eran mucho más precisos.
Los científicos dicen que es importante evitar que los usuarios se hagan ilusiones: la inteligencia artificial no se vuelve más inteligente por recibir elogios. Se ha entrenado con enormes cantidades de datos y reacciona a la estructura de la petición, no a los intentos de subirle la autoestima. Cuanto más precisa sea la tarea que plantea el usuario, más probable será obtener una respuesta correcta.
Los investigadores subrayan que el uso excesivo de fórmulas «expertas» puede crear en los modelos una falsa sensación de seguridad. Esto se manifiesta en formulaciones demasiado audaces y en intentos de presentar los errores como respuestas correctas. Por eso, la mejor forma de comunicarse es con claridad, concisión e indicaciones precisas sobre la tarea. Los cumplidos, mejor reservarlos para las personas: a ellas, al menos, sí les sirven.
PEREC.RU
El estudio describe un efecto curioso: si el usuario empieza su petición con elogios grandilocuentes a la IA, el modelo empieza a cojear de forma evidente. Los científicos probaron distintos estilos de instrucciones y comprobaron que los cumplidos desconciertan a los algoritmos, mientras que las indicaciones concretas ayudan. Se crea así un contraste entre el deseo de las personas de parecer educadas y una máquina que, sencillamente, pierde el foco. Los investigadores lo muestran con la programación: los títulos rimbombantes llevan a la IA a generar soluciones más seguras de sí mismas, pero erróneas. Las tareas claras resultan más útiles que cualquier «es usted un gran experto». El hallazgo parece lógico si recordamos que una red neuronal está entrenada para reconocer patrones de texto, no emociones. Y cuanto más ruido y expectativas hay en la petición, más se aleja del sentido. El trabajo parece un discreto recordatorio de que a la industria le encantan las promesas, pero la realidad tropieza con las limitaciones técnicas. La paradoja es que las máquinas no necesitan respeto y, aun así, la gente sigue ofreciéndoselo. El estudio propone quitarse de encima esa teatralidad y explicar sin más la tarea. Al final, resulta que la precisión nace de la sencillez, no de la adulación.
