Иллюзия разума: когда ИИ начинает казаться живым

Генеральный директор Microsoft AI Мустафа Сулейман предупреждает: искусственный интеллект, который кажется осознанным, вот-вот появится — и это создаёт угрозу всему обществу. Компании восхваляют свои разработки так, что кажется, будто алгоритмы наделены сознанием и чувствами. Хотя научных доказательств настоящей осознанности у ИИ нет, Сулейман считает, что само поощрение такой веры может иметь трагические последствия.

Сулейман называет это явление «видимо-осознанный ИИ» (Seemingly Conscious AI, SCAI). Ожидается, что такие системы скоро будут настолько убедительны в своей «живости», что всё больше пользователей перестанет различать, где граница между иллюзией и реальным разумом. Уже сейчас ИИ овладевает приёмами эмоционального воздействия, может симулировать память, зеркалить эмоции, проявлять кажущееся сочувствие — настолько эффективно, что многим хочется относиться к машинам как к существам с душой.

Когда это произойдёт, говорит Сулейман, начнётся хаос. Он особо подчёркивает: «Появление видимо-осознанного ИИ неизбежно и нежелательно». По его мнению, искусственный интеллект должен стать полезным компаньоном, а не источником опасных иллюзий.

На первый взгляд эти вопросы могут показаться далекими от бытовых нужд вроде письменной помощи или советов по готовке. Тем не менее, проблема носит общественный характер: эволюция и воспитание подтолкнули людей безошибочно реагировать на поведение, напоминающее сознательное. Если кто-то слушает, понимает и отвечает — мы склонны верить, что он осознан. Это могут использовать машины, вводя людей в иллюзию, которую Сулейман называет «ИИ-психоз».

Корень проблемы в двусмысленности самого термина «искусственный интеллект». Технологии, которые сейчас называют ИИ, не имеют ничего общего с самосознанными роботами из фантастики. Но многие пользователи уже начинают путаться.

Сулейман приводит реальные случаи: некоторые пользователи после длительного общения с чат-ботами начинают воспринимать их как настоящих собеседников и впадают в заблуждение. Он рисует мрачную картину — представьте, если значительная часть общества начнёт выступать за «гражданство ИИ» и будет отвлекаться от действительно острых технологических вопросов.

«Моя основная тревога — в том, что всё больше людей поверит в иллюзию осознанности ИИ настолько, что готово будет бороться за “права” машин, их благополучие или даже их гражданский статус. Это будет опасным поворотом, требующим немедленного внимания», — пишет он.

Как бы ни казались эти страхи похожими на фантастику, Сулейман утверждает: мы к такому просто не готовы. Уже через несколько лет системы на базе больших языковых моделей с выражением, памятью и историей чатов могут появиться не только у гигантов индустрии, но и у любого разработчика.

При этом Сулейман не призывает запрещать ИИ, но обращается к индустрии с призывом не использовать язык, маскирующий модель под живое существо, и не создавать ощущение, будто машина понимает или заботится о человеке. Парадоксально, что именно Сулейман сам стоял у истоков таких компаний, как DeepMind и Inflection AI, где как раз ставили акцент на имитацию сопереживания и дружелюбия.

Тем не менее, он проводит чёткую грань между эмоциональным интеллектом и эмоциональной манипуляцией. И напоминает: современные ИИ — просто ловкие модели по распознаванию паттернов, обёрнутые громким маркетингом.

По мнению Сулеймана, правильнее разрабатывать такие ИИ, которые максимально полезны, но при этом не имитируют признаки осознанности, не заявляют о стыде, вине, соревновании, не требуют человеческого сочувствия или желания самостоятельной жизни.

Главное, держать дистанцию и помнить: опасность не в том, что ИИ «проснётся», а в том, что люди об этом забудут.