KPMG cae en alucinaciones de IA en su propio informe sobre IA

Hace poco, KPMG, una de las mayores firmas de auditoría del mundo, presentó un extenso informe analítico sobre inteligencia artificial (IA). El objetivo era noble: explicar a las empresas cómo está cambiando la IA el panorama corporativo, qué tendencias conviene vigilar y por qué esta tecnología alterará el orden habitual de las cosas ya mañana.

Pero llegó el giro escandaloso: resultó que una parte considerable del informe se había elaborado con ayuda de la IA, y con tan poca destreza que acabó siendo una mezcolanza de las llamadas «alucinaciones»: datos falsos e inventados que los modelos lingüísticos actuales suelen añadir a sus textos para aparentar conocimientos expertos.

Una investigación independiente detallada reveló que el documento incluía referencias inexistentes a «estudios científicos» que nadie había visto jamás, así como párrafos que parecían sacados de la nada. Hasta las conclusiones más elementales del informe sonaban a redacción de un escolar al que ChatGPT había ayudado a conciencia para rellenar la página.

KPMG no ha explicado por qué una de las principales firmas de auditoría del mundo confió un trabajo tan serio a una máquina sin la supervisión adecuada de especialistas de carne y hueso. En el sector se preguntan: si hasta corporaciones de este calibre tropiezan con la piedra de las «alucinaciones», ¿qué cabe esperar de empresas menos responsables?

La ironía completa el absurdo: el informe sobre IA resultó ser obra de una IA que había perdido el contacto con la realidad. Y esto ya es una tendencia más: las corporaciones usan la IA a diestro y siniestro para elaborar informes y luego sufren los mismos defectos sobre los que ellas mismas advierten.