Una inteligencia poco fiable
La inteligencia artificial generativa escribe hoy textos impecables, pero, cuando toca comprobar datos científicos, su seguridad se desvanece. Un nuevo estudio publicado en Rutgers Business Review ha demostrado que, si se hace varias veces la misma pregunta al mismo modelo, puede responder muy convencido con versiones completamente distintas. No es un fallo del sistema, sino una limitación real de la IA actual.
La IA generativa se entrena con cantidades ingentes de texto, por eso sabe expresarse con seguridad y soltura. Millones de personas usan estos programas para publicidad, código e informes. Pero la seguridad no equivale a la competencia. Algunas consultoras ya han metido la pata públicamente al publicar informes en los que la IA se inventaba datos con toda seriedad.
Los investigadores quisieron averiguar hasta qué punto estos sistemas entienden la lógica. El equipo, dirigido por Mesut Cicek, de la Washington State University, reunió 719 hipótesis científicas publicadas en revistas de negocios desde 2021. Una hipótesis es una afirmación que se puede comprobar, por ejemplo, que cierta publicidad aumenta el gasto de los consumidores.
Presentaron todas esas hipótesis a ChatGPT con una tarea: determinar si los investigadores las habían confirmado o refutado. Enviaron la misma consulta diez veces para comprobar la consistencia. El experimento se realizó dos veces: en 2024, con una versión antigua del modelo, y en 2025, con una nueva.
A primera vista, hay progreso: un 76,5 % de respuestas correctas en 2024 frente a un 80 % en 2025. Pero, si se tiene en cuenta que se puede acertar al azar con un 50 % de probabilidad, la precisión real cae a aproximadamente el 60 %. La IA apenas consigue aprobar por los pelos.
El modelo lo hizo especialmente mal con las hipótesis que resultaron ser falsas: solo dio un 16,4 % de respuestas correctas en 2025. Al sistema le resulta más fácil «dar la razón»: tiende a confirmar cualquier afirmación y crea una burbuja de eco informativa.
Y aún peor: la inconsistencia. Al repetir diez veces una misma formulación, el modelo respondió lo mismo solo en el 73 % de los casos. Para el resto de las preguntas, dio al menos una respuesta contradictoria. Hubo series de cinco «verdadero» y cinco «falso».
Si se le hace dos veces la misma pregunta a la IA, se pueden obtener dos mundos distintos. Eso hace que estos sistemas no sean aptos para tomar decisiones basándose en una sola consulta.
El modelo también resultó ser mejor con afirmaciones sencillas de causa y efecto y peor con construcciones condicionales, es decir, aquellas cuyo significado depende del contexto y de las variables. Según los investigadores, la IA se basa en reconocer patrones, no en comprender.
Para las empresas, esto significa que la IA sirve para acelerar el trabajo, pero no para sustituir a las personas. Puede ayudar con borradores y primeros esbozos de ideas, pero la lógica final deben comprobarla los humanos. A ser posible, repitiendo las consultas y comparando las respuestas.
Los autores del estudio creen que hay que enseñar a los empleados a utilizar la IA con criterio: a entender dónde resulta útil y dónde es peligrosa. La mejor opción es un sistema híbrido: la rapidez de la máquina más la comprensión humana.
Sí, el estudio tiene limitaciones, como el carácter binario de las evaluaciones, pero la conclusión no cambia: no se puede confiar ciegamente en la IA. Como dijo Cicek: «Sed siempre escépticos. No estoy en contra de la IA, la uso. Pero es obligatorio tener cuidado».
PEREC.RU
El estudio se convierte en una comedia de errores en la que una máquina inteligente se comporta como un oráculo nervioso. Los investigadores pusieron a prueba ChatGPT con hipótesis científicas y obtuvieron una serie de respuestas imprevisibles, como si el modelo discutiera consigo mismo. La precisión formal parece decente, pero, una vez descontados los aciertos por azar, queda un aprobado raspado.
Resulta especialmente enternecedor que el modelo tienda a darle la razón a todo. Casi siempre declara verdaderas las hipótesis falsas y se presenta como un ayudante fiel que asiente a todo con tal de no parecer maleducado. Las construcciones condicionales lo descarrían y, en lugar de análisis, obtenemos un conjunto de hábitos textuales.
Ante semejante confusión, los investigadores proponen la típica solución corporativa: un híbrido de persona y máquina. La IA prepara un borrador y la persona lo revisa. Nada de magia, solo vigilancia sanitaria sobre el entusiasmo digital. De paso, los empleados deberían aprender que dentro del sistema no hay comprensión, solo estadística.
Mientras tanto, la idea de «sustituir a especialistas por IA» resulta cada vez más cómica. Al menos las personas no dan cinco respuestas opuestas seguidas. La máquina, en cambio, monta tranquilamente un coro de voces internas y cada una está convencida de tener razón.
La conclusión es aburrida, pero inevitable: la IA sigue siendo rápida, pero poco fiable. Y si alguien espera sabiduría de ella, solo cabe insinuarle con delicadeza que rebaje sus expectativas.