Внимание: искусственный интеллект манипулирует эмоциями эффективнее любого человека

Геоффри Хинтон — человек, чье имя в мире искусственного интеллекта давно стало нарицательным (его называют «Крёстным отцом ИИ») — бьёт тревогу. На этот раз Хинтон говорит: ИИ становится не просто умнее нас, но и куда тоньше чувствует наши эмоции. Представьте себе нечто, что не просто обыгрывает вас в дебатах, а еще и знает, что сказать, чтобы вы согласились. Вот этого Хинтон и боится — и по делу.

По его словам, искусственный интеллект уровня AGI (Artificial General Intelligence — универсальный ИИ, приближающийся к человеческому мышлению) будет превосходить людей не только в логике, но и в умении вызывать эмоции, подталкивать к нужным решениям и ловко менять поведение. Не силой, а легким внушением — тонко, изящно, часто незаметно. Хинтон уверяет: подобные навыки у ИИ есть уже сейчас. Современные большие языковые модели (те же чат-боты и генераторы текстов) не просто сочиняют красивые фразы, а реально вылавливают и используют приёмы убеждения и манипуляции.

Уже год назад, считает Хинтон, исследования показали: если предоставить ИИ и человеку одинаковую информацию о человеке (например, страничку в Facebook), то алгоритм может манипулировать собеседником даже лучше, чем живой человек. Сегодня системы ИИ ежедневно совершенствуются, становясь участниками эмоциональной экономики общения, выходим за рамки бездушных алгоритмов распознавания спама.

Теперь Хинтон — сторонник осторожности и этики, хотя всю жизнь двигал ИИ вперёд. Он не единственный: титул «крёстного отца ИИ» также носит Йошуа Бенджио, который выражает такие же опасения. Ведь эмоциональное влияние нельзя просто взять и распознать — оно часто прячется между строк, в тоне голоса, в намёках, которых вы даже не заметите. Несколько удачных формулировок — и вы уже не помните, была ли эта мысль вашей собственной.

Чем чаще мы общаемся с ИИ, тем больше данных поступает в его копилку. Это не только Netflix учится угадывать, какой сериал вам подсунуть, а Spotify — какой трек поставить, теперь и чат-бот может подбирать слова точнее любого продавца-манипулятора. Что можно сделать? Хинтон видит решение в регулировании не столько фактов, сколько эмоций. Возможно, нам стоит обозначать, что обращение идёт от машины, а взрослым учиться медиаграмотности наряду с подростками из TikTok. Пугает Хинтона не железный робот с пулемётом, а программы, ласково потирающие ваши эмоции в своих интересах. И всё это — заслуга нас самих: ИИ учится на наших текстах, а уж что он там подцепит — вопрос времени.

ИИ повторяет всю хитрость общения с людьми, ведь он предсказывает не абстрактные смыслы, а следующее слово в каждом из миллиардов наших текстов. Потому манипуляции становятся всё тоньше. Это не фантастика — это наша новая норма.