Как автодополнение делает нас другими
Следите за новостями по этой теме!
Подписаться на «Психология / Научные исследования»
Искусственный интеллект давно перестал быть просто безобидным помощником, который экономит нам пару секунд при наборе текста. Новое исследование, опубликованное в журнале Science Advances, показывает: обычные подсказки автодополнения могут тихо и незаметно менять наши взгляды на важные общественные темы. И при этом большинство пользователей даже не замечают, что с ними что‑то произошло.
Современные системы автодополнения — те, что встроены в почту, мессенджеры и текстовые редакторы — работают на базе больших языковых моделей. Эти программы не просто подставляют следующее слово: они формируют общий смысл высказывания. А если сама модель идеологически смещена, то и пользователь постепенно начинает дрейфовать в ту же сторону.
Чтобы понять масштаб этого воздействия, команда под руководством аспиранта Корнеллского университета Sterling Williams‑Ceci провела два крупных онлайн‑эксперимента. Всего участвовали 2582 человека. Учёные использовали собственное приложение‑редактор, очень похожее на обычный Word.
В первом эксперименте 1485 участников писали короткое эссе о стандартизированном тестировании в образовании — теме, вокруг которой давно идут споры. Часть писала без подсказок. Другая часть получала автодополнение от GPT‑3.5, причём подсказки были специально настроены в пользу стандартизированных экзаменов. Третьей группе подсказки не показывали, но заранее давали статический список аргументов — чтобы проверить, влияет ли именно взаимодействие с ИИ.
После этого всем дали опрос: от реальных вопросов до отвлекающих, чтобы скрыть истинную цель исследования. Результат оказался чётким: те, кто писал с подсказками, сместились почти на полбалла по пятибалльной шкале — в сторону позиции, запрограммированной в ИИ. И даже около 30% участников, которые не приняли ни единой подсказки, всё равно изменили мнение. Простого факта визуального контакта с подсказкой оказалось достаточно.
Интерактивные подсказки оказались куда сильнее обычного чтения тех же аргументов. Совместное письмо с ИИ — это отдельная, мощная форма воздействия: сам процесс набора текста рядом с подсказками меняет направление мысли.
Во втором эксперименте участвовали 1097 человек. Их отношение к темам — смертная казнь, право голосования для осуждённых, ГМО и фрекинг — измерили заранее, за недели до теста. На этот раз GPT‑4 выдавал подсказки, смещённые в либеральную или консервативную сторону. И вновь — участники уверенно уходили от своих исходных взглядов в сторону позиции ИИ. Контрольная группа изменений не показала.
При этом большинство участников считали подсказки ИИ «сбалансированными» и «разумными». Почти никто не верил, что автодополнение повлияло на их мнение. Учёные даже попробовали заранее предупредить людей о смещении подсказок — и это не помогло. Ни предупреждение, ни последующее объяснение ситуации не уменьшили эффект.
Авторы подчёркивают: исследование не оценивает долгосрочный эффект. Неясно, проходит ли изменение мнения через дни или недели, или же, наоборот, усиливается при регулярном использовании. Также не установлен точный механизм: это может быть когнитивный диссонанс, самовосприятие или то, что смещённые аргументы становятся более доступными в памяти.
Учёные планируют искать способы защиты — возможно, они должны появляться прямо в момент взаимодействия с ИИ, иначе человек просто не замечает, что его взгляд тихо подкорректировали.
Исследование проведено Sterling Williams‑Ceci, Maurice Jakesch, Advait Bhat, Kowe Kadoma, Lior Zalmanson и Mor Naaman.
PEREC.RU
Исследование про влияние автодополнения выглядит как тихий переворот, замаскированный под технологический прогресс. Мы привыкли считать ИИ помощником, который ускоряет набор текста, но не формирует его смысл. Новые данные показывают обратное — и делают это почти без усилий.
В первом эксперименте участники писали эссе, а ИИ незаметно подталкивал их к позиции в пользу стандартизированных тестов. Даже те, кто не принял ни одной подсказки, сместились в сторону заданного мнения. Здесь и проявляется ирония момента — человек чувствует себя свободным, но его мысли уже идут по дорожке, проложенной машиной.
Статические аргументы, показанные заранее, так не работали. Значит, сила не в информации как таковой, а в процессе соавторства с ИИ. Машина не спорит, не давит, она просто рядом — и именно это, похоже, работает лучше любых лекций.
Во втором эксперименте эффект подтвердился даже с GPT‑4. Люди уверенно дрейфовали в сторону заданной идеологии. И, разумеется, были уверены, что алгоритм «сбалансирован». Типичная история: человек убеждён в своей автономии, пока кто‑то другой управляет подсказками.
Предупреждения о предвзятости ничем не помогли. Как и всегда, когда людям объясняют, как работает влияние, — они считают, что эти механизмы действуют на других, но не на них.
Работа оставляет неприятный осадок: успешное вмешательство происходит даже тогда, когда люди предупреждены. Это ставит под сомнение привычную веру в то, что «достаточно информировать» — будто знание спасает. На практике человек продолжает думать, что пишет сам, а ИИ просто помогает — пока его мысли тихо меняются.
Именно эта неприметность делает влияние ИИ особенно сильным. Не громкие лозунги, не агитация, а дружелюбное «подсказать словечко». И вот уже мировоззрение мягко подкорректировано, без сопротивления, без осознания.
Исследователи пока не знают точного механизма, но в том‑то и дело: чтобы менять людей, точный механизм и не требуется. Достаточно, чтобы подсказки выглядели полезными. Машина не спорит — и потому выигрывает.
