Судья хлестко критикует юристов за "фальшивые исследования на базе ИИ"

Судья раскритиковал юристов за "мошеннические исследования, созданные ИИ".
Судья в Калифорнии раскритиковал пару юридических фирм за негласное использование искусственного интеллекта после получения дополнительного документа с "многочисленными ложными, неточными и вводящими в заблуждение юридическими цитатами и выражениями". В решении, поданном на прошлой неделе, судья Майкл Уилнер наложил штраф в размере 31 000 долларов на вовлеченные юридические фирмы, отмечая, что "ни один разумно компетентный адвокат не должен передавать исследование и написание" ИИ, как указали профессора права Эрик Голдман и Блейк Рейд на платформе Bluesky.
"Я прочитал их документ, был убежден (или, по крайней мере, заинтригован) авторитетами, которых они цитировали, и посмотрел судебные решения, чтобы узнать о них больше, — и только обнаружил, что они не существуют," — пишет судья Уилнер. "Это пугает. Это почти привело к еще более пугающему исходу (с моей точки зрения) — включению этих поддельных материалов в судебный приказ."
Как отмечено в документе, юридический представитель истца по гражданскому иску против State Farm использовал ИИ для создания структуры дополнительного документа. Однако этот документ содержал "мошеннические исследования, созданные ИИ", когда он был отправлен другой юридической фирме, K&L Gates, которая добавила информацию в свой документ. "Ни один адвокат или сотрудник обеих фирм, похоже, не проверил или каким-либо образом не рассмотрел это исследование перед подачей документа," — пишет судья Уилнер.
Когда судья Уилнер изучил документ, он обнаружил, что "по крайней мере два из перечисленных авторитетов совсем не существуют". После того, как он обратился в K&L Gates за разъяснениями, фирма повторно подала документ, который, по словам судьи Уилнера, содержал "значительно больше вымышленных цитат и выражений помимо двух первоначальных ошибок". Затем он издал приказ о необходимости явиться, в результате чего юристы дали присяжные показания, подтверждающие использование ИИ. Адвокат, создавший структуру, признался в использовании Google Gemini, а также инструментов юридического исследования на Westlaw Precision с CoCounsel.
Это не первый случай, когда юристы попадаются на использовании ИИ в судебных разбирательствах. Бывший адвокат Трампа Майкл Коэн ссылался на вымышленные судебные дела в юридическом документе, ошибочно приняв Google Gemini, когда-то называвшийся Bard, за "суперзаряженную поисковую систему", а не за чат-бота ИИ. Судья также обнаружил, что адвокаты, судящие колумбийскую авиакомпанию, включили множество фальшивых дел, сгенерированных ChatGPT в свой документ.
"Первоначальное, неопубликованное использование продуктов ИИ для создания первой версии документа было абсолютно неправильным," — пишет судья Уилнер. "И передача этого материала другим юристам без раскрытия его сомнительного ИИ происхождения реально подвергла этих профессионалов риску."