OpenAI разоблачила «экспертов»

OpenAI сообщила о пресечении операции, в которой аккаунты ChatGPT использовались для распространения дезинформации и продвижения выгодного России взгляда на западные страны, поддерживающие Украину.

Центром кампании стал сайт International Burke Institute (IBI) — якобы международное сообщество академических экспертов. Для создания видимости легитимности на нём размещали реальные научные работы, однако нередко приписывали их другим авторам. Такой приём позволял скрыть происхождение материалов и представить площадку как независимый исследовательский институт.

IBI был зарегистрирован по адресу в Израиле. По данным OpenAI, некоторые реальные жители страны могли представлять и продвигать сайт. При этом организаторы ChatGPT-аккаунтов тщательно маскировали российское происхождение операции: в запросах к нейросети они просили убирать языковые признаки, указывающие на использование русского языка.

Одним из следов стала формулировка «Svetofor coalition» — так на сайте назвали правительственную «светофорную коалицию» Германии. Слово Svetofor означает «светофор» в нескольких славянских языках, в том числе в русском. Это позволяет предположить, что исходные тексты создавались на славянском языке, а затем переводились.

Сгенерированные с помощью ИИ изображения и подписи публиковались в X, LinkedIn, Facebook, Substack и Telegram. Часть аккаунтов автоматически отвечала на комментарии реальных пользователей в Substack. Операторы регулярно просили ChatGPT готовить на русском языке отчёты об эффективности страниц, а также создавать похожие изображения для профилей.

Одним из главных элементов сайта был «Burke Sovereignty Index» — индекс, призванный сравнивать страны по политическим, экономическим, технологическим, информационным, культурным, когнитивным и военным показателям. По оценке OpenAI, методика была устроена так, чтобы западные государства выглядели хуже России. В самом индексе обнаруживались несогласованности: например, Ватикан, занимающий менее половины квадратного километра, располагался выше Испании по среднему баллу, а Россия получила максимальную оценку в военной сфере.

На сайте также публиковался список экспертов без указания их связи с IBI. В него включили известных исследователей Фрэнсиса Фукуяму и Ноама Хомского, бывших высокопоставленных американских чиновников Майка Помпео и Джозефа Ная. Среди перечисленных были и люди, умершие до основания института, включая Шломо Авинери и Цзян Пина.

OpenAI заявила, что многие научные материалы на сайте сами по себе подлинные, но часто были украдены у настоящих авторов и приписаны другим людям. Это должно было повысить доверие к площадке и создать впечатление настоящего академического проекта.

При этом общий охват кампании оставался ограниченным. Некоторые Telegram-каналы набрали от 10 до 20 тысяч подписчиков, но заметного массового распространения среди реальной аудитории не произошло.

Главный вывод OpenAI касается не масштаба, а качества подготовки. IBI выглядел как настоящий исследовательский институт: использовал реальные публикации, список известных специалистов и аккуратную работу в социальных сетях. Для неподготовленного читателя даже беглого знакомства с сайтом могло хватить, чтобы принять его за достоверный источник.