Творение машин: Как мы воспринимаем ИИ в новостях?

Читатели с трудом понимают роль ИИ в написании новостей, как показывает исследование. Новое исследование, опубликованное в Communication Reports, обнаружило, что читатели интерпретируют участие искусственного интеллекта в журналистике по-разному, и зачастую неправильно. Когда участникам показывали новостные статьи с разными описаниями авторства - некоторые упоминали, что статья написана с или при помощи ИИ - участники предложили широкий спектр объяснений, что это может значить. Большинство не считали ИИ действующим независимо. Вместо этого они строили свои собственные истории, чтобы объяснить, как ИИ и человеческие авторы могут работать вместе.

С учетом того, что технологии ИИ становятся все более интегрированными в журналистику, понимание того, как люди интерпретируют роль ИИ, становится все более важным. Генеративный искусственный интеллект относится к инструментам, способным производить текст, изображения или аудио, похожие на человеческие, на основе подсказок или данных. В журналистике это часто означает, что ИИ используется для обобщения информации, генерации заголовков или даже написания полных статей на основе структурированных данных.

С 2014 года некоторые новостные редакции начали использовать ИИ для автоматизации финансовых и спортивных новостей. Однако выпуск более совершенных инструментов, таких как ChatGPT в конце 2022 года, расширил возможности и сделал ИИ гораздо более заметным в повседневной новостной продукции. Например, в 2023 году одна крупная медиакомпания в Великобритании наняла журналистов, работа которых включает помощь ИИ, и отметила это в их авторских строках. Однако читателям не всегда сообщают, как именно ИИ способствовал, что может создать путаницу или недоверие.

Исследователи, стоящие за новым исследованием, хотели выяснить, как люди понимают авторские строки, упоминающие ИИ, и влияют ли их интерпретации на их знакомство с медиа и отношение к искусственному интеллекту. Их особенно интересовало, могут ли люди точно понять, что именно сделал ИИ при создании новостной статьи, исходя только из формулировок в авторской строке. Это важно, поскольку доверие к журналистике зависит от прозрачности, и предыдущие скандалы — такие как обвинения Sports Illustrated в использовании контента, сгенерированного ИИ, без раскрытия — показали, что неясное авторство может подорвать доверие.

Чтобы исследовать эти вопросы, команда исследователей разработала онлайн-исследование с участием 269 взрослых. Респондентам предложили заполнить короткий вопросник, измеряющий их медиаграмотность и общие взгляды на искусственный интеллект. Затем каждому участнику случайным образом назначили немного измененную статью Associated Press о здоровье. Статья была одинаковой для всех, за исключением одной строки вверху — авторской строки.

Эта авторская строка варьировалась в пяти различных вариантах: некоторые говорили, что историю написал «штатный автор», в то время как другие — «с использованием ИИ», «при помощи ИИ», «в сотрудничестве с ИИ» или просто «задан ИИ». После прочтения статьи участников попросили объяснить, что они думают об авторской строке и как они интерпретируют роль ИИ в написании статьи.

Ответы показали, что читатели старались разобраться в авторской строке, даже если она не была полностью ясной. Этот процесс, когда люди используют то, что уже знают, чтобы понять что-то новое или неопределенное, называется «осмыслением». В данном случае люди полагались на свой личный опыт, предположения о журналистике и существующие знания об ИИ.

Многие участники предполагали, что ИИ как-то помог, даже если не могли точно объяснить как. Некоторые думали, что ИИ написал основную часть статьи, а человеческий редактор лишь «прикинул» и поправил общие недочеты. Другие считали, что основная работа была сделана человеком, но ИИ помогал с мелкими задачами, такими как проверка фактов или предложение более удачных формулировок.

Один участник представил, что журналист ввел несколько ключевых слов, а ИИ собрал информацию из интернета для генерации статьи. Другой описал совместную работу, где ИИ собрал фоновые данные, а человек затем проверял их на точность. Эти ментальные модели, часто называемые «народные теории», показывают, как читатели пытаются заполнить пробелы, когда информация отсутствует или неясна.

Интересно, что даже когда авторская строка говорила, что статья написана «ИИ», многие участники все равно предполагали, что человек каким-то образом был вовлечён в процесс. Это предполагает, что большинство людей не считают ИИ абсолютно независимым автором. Скорее, они верят, что человеческий контроль необходим, будь то для руководства, надзора или окончательной правки.

Некоторые участники выражали скептицизм или даже недовольство авторской строкой. Когда в статье говорилось, что ее написала «штатный автор», но не указывалось имя, то некоторые предположили, что это попытка скрыть фактическое присутствие ИИ как автора. Другие говорили, что качество написания было плохим и связывали это с участием ИИ, даже когда статья была обозначена как написанная человеком. В обоих случаях отсутствие названного автора вызывало негативные оценки. Эта находка подтверждает предыдущие исследования, показывающие, что читатели ожидают прозрачности в авторстве, а когда эти ожидания не оправдываются, могут недоверять контенту.

Чтобы лучше понять, что повлияло на эти интерпретации, исследователи разделили участников по их медиаграмотности и общему отношению к ИИ. Медиаграмотность относится к тому, насколько хорошо люди понимают медиа, которые они потребляют, включая то, как создается новость.

Исследователи обнаружили, что участники с более высокой медиаграмотностью с большей вероятностью считали, что ИИ сделал большую часть написания. Те, кто обладал низкой медиаграмотностью, чаще предполагали, что статью написал человек, или что это была совместная работа человека и ИИ. Удивительно, что предшествующие настроения по отношению к ИИ незначительно повлияли на то, как участники истолковали авторскую строку.

Это говорит о том, что то, насколько люди знают о СМИ, возможно, имеет большее значение, чем их личные чувства по поводу искусственного интеллекта, когда они пытаются выяснить, кто написал статью. Это также показывает, что простое включение фразы вроде «с помощью ИИ» недостаточно, чтобы дать читателям четкое понимание роли ИИ. Исследование показало, что люди часто неправильно интерпретируют или переосмысливают эти заявления, и отсутствие стандартного языка вокруг участия ИИ только добавляет путаницу.

У исследования есть и некоторые ограничения. Поскольку исследователи не включили названного автора в какие-либо условия авторских строк, возможно, участники отреагировали негативно, потому что соскучились по имени реального человека — чему они ожидают от журналистики. Также стоит отметить, что статья, использованная в исследовании, была основана на научной отчетности, которая, как правило, более объективна и менее интерпретирована. Реакция на участие ИИ может быть более сильной для тем, таких как политика или написание мнений. Будущие исследования могут изучить, как эти результаты применимы к другим типам журналистики и как люди реагируют, когда статьи содержат полное раскрытие или заявление о прозрачности использования ИИ.

Несмотря на эти ограничения, исследование поднимает важные вопросы для новостных организаций. Поскольку ИИ становится все более распространенным в редакциях, недостаточно просто сказать, что история была создана «с помощью ИИ». Читателям важно знать, что именно делал ИИ — он писал черновик, обобщал данные, предлагал правки или просто проверял окончательный текст? Без этой ясности читатели остаются угадывать, и эти догадки часто заканчиваются недоверием или путаницей.

Исследователи утверждают, что необходима больший уровень прозрачности, не только с точки зрения этики, но и для сохранения доверия к журналистике. Согласно рекомендациям Общества профессиональных журналистов, от журналистов ожидается разъяснение их процессов и решений общественности. Это ожидание должно распространяться и на использование ИИ. Как и с человеческими источниками, так и вклад ИИ необходимо четко указывать и описывать.

Статья «Кто это написал? Осмысление читателями новостей об авторских строках с участием ИИ/Человека» была написана Стивом Бьен-Эймэ, Му У, Элиссой Аппельман и Хайянь Цзя.