Искусственный интеллект FDA "Эльза" выдумывает исследования: скандал вокруг ИИ в медицине

Сотрудники американского Управления по контролю за продуктами и лекарствами (FDA) выразили тревогу по поводу работы новейшей генеративной нейросети Elsa, недавно внедрённой ведомством. Эту новость сообщил канал CNN после беседы как с действующими сотрудниками агентства, так и с бывшими. По словам трёх работников, система ИИ Elsa выдумывает несуществующие научные исследования либо искажает суть реальных. Один из анонимных источников отметил: «Всё, что вы не успеете перепроверить вручную, — ненадёжно. Эльза с уверенностью врёт». Такое поведение сбивает с толку, ведь искусственный интеллект в FDA предназначен ускорять рассмотрение медицинских документов и помогать принимать решения для пользы пациентов.

Руководство FDA не выразило особого беспокойства из-за возможных проблем. Глава ведомства Марти Макари сделал вид, что ничего не слышал: «До меня такие опасения не доходили». Он также напомнил, что использование Elsa необязательно, как и обучение по работе с ней — пока всё по желанию.

Показательно, что скандал с ИИ совпал по времени с публикацией в Белом доме национального плана действий по искусственному интеллекту. В нём развитие ИИ объявлено гонкой вооружений: Америка должна победить любой ценой, для удобства предлагается упростить нормативно-правовые барьеры и убрать «избыточные регуляции». Одновременно в программе прописаны требования избавить ИИ от «идеологической предвзятости», то есть де-факто избавиться от темы изменений климата, дезинформации, разнообразия и инклюзивности. Эти темы давно признаны влияющими на общественное здоровье, поэтому польза нейросетей вроде Elsa для FDA и пациентов США вызывает всё больше сомнений.