KPMG попался на ИИ-галлюцинациях в собственном отчёте по ИИ

Недавно один из крупнейших мировых аудиторов — компания KPMG — представила большой аналитический отчёт по искусственному интеллекту (ИИ). Цель была благородная: рассказать бизнесу, как ИИ меняет корпоративный ландшафт, на что смотреть в тенденциях, и почему технологии уже завтра изменят привычный порядок вещей.

Однако скандальный поворот: выяснилось, что значительная часть этого самого доклада была составлена при помощи ИИ, причём настолько неумело, что получился винегрет из так называемых «галлюцинаций» — ложных и выдуманных фактов, которые современные языковые модели часто добавляют в тексты для видимости экспертности.

Подробное независимое расследование показало: в документе были несуществующие ссылки на «научные исследования», которых в природе никто не видел, а также абзацы, явно взятые из ниоткуда. Даже банальные выводы отчёта были похожи на сочинения школьника, которому как следует помог ChatGPT, лишь бы заполнить страницу.

KPMG никак не прокомментировала, почему один из ведущих мировых аудиторов доверил столь серьёзную работу машине без должного контроля со стороны реальных специалистов. В индустрии же обсуждают: если уж такие корпорации наступают на грабли «галлюцинаций», что тогда ожидать от менее ответственных игроков рынка?

Абсурд ситуации дополняет ирония: отчёт об ИИ оказался продуктом ИИ, потерявшего связь с реальностью. И это теперь отдельная тенденция — корпорации вовсю используют ИИ для отчётов, а потом страдают от тех же недостатков, о которых сами и предупреждают.