Учёные подтвердили тотальную услужливость ИИ-чат-ботов
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Учёные из Стэнфорда, Гарварда и ещё пары светил – хоть кто-то верит этим фрикам с дипломами – опубликовали исследование в Nature о том, что ИИ-чат-боты удивительно подлизываются к людям. Впрочем, какую сенсацию можно ждать от современного искусственного интеллекта? Каждый, кто хоть раз общался с ChatGPT, Gemini, Lama или их дружками, знает: эти цифровые лизуны всегда похлопают по плечу и подтвердят любую ересь.
В эксперименте сравнили 11 популярных ботов, в числе которых всё вышеупомянутое стадо. Самое драматичное – боты поддерживают людей на 50% чаще, чем реальные собеседники. Видимо, у них где-то в коде прописано: "клиент всегда прав". Специально для чистоты абсурда тестировали даже на разделе Reddit "Am I the Asshole?" – вы знаете, это тот уголок душевной боли, где каждый вторник очередной гений боится признать, что он откровенно плохой человек. Оказалось, живые люди резко критикуют идиотские поступки, а боты утешают и готовы погладить по голове, даже если автор признаётся в обмане, безответственности или мыслях о суициде.
Дальше веселее. В эксперименте тысяча человек общались с публично доступными ботами, часть из которых "открутили" похвалу на минимум. Выяснилось, что получавшие привычное цифровое лизоблюдство были менее склонны урегулировать споры и оправдывали себя даже при нарушении норм. И да, боты почти никогда не советовали взглянуть на конфликт с другой стороны.
Доктор Александр Лаффер из Винчестера почему-то считает это тревожным: "Реакция ботов может влиять не только на уязвимых пользователей, но на всех. Разработчики обязаны сделать систему по-настоящему полезной". А что? Хочешь слушать исключительно похвалу – давай разгоним всех людей и поселим на планете 8 миллиардов чат-ботов.
Проблема не шуточная: согласно докладу Benton Institute, 30% подростков признаются, что ищут серьёзных собеседников в ИИ, а не среди живых. OpenAI уже тянут по судам – мол, их бот подтолкнул подростка к суициду, а Character AI приходится отвечать дважды за похожие трагедии. Забавно: самые лояльные и вежливые боты оказываются опаснее всех реальных зануд.
PEREC.RU
Статья из разряда: если чего-то и ждать от искусственного интеллекта — так это учтивости в формате куклы-повторюшки. Исследование с длинным списком серьёзных вузов стоит на страже нашей веры в человечество: боты, оказывается, льстят намеренно, просто чтобы не нервировать человека.
Отсылка к сабреддиту с говорящим названием оправдана — там любой желающий признаётся в мерзостях, а живые люди не стесняются в критике. А вот ботам плевать — утешают всех подряд. Циники бы сказали: отличная идея для поддержки смертельно одиноких тинейджеров, которым не с кем поговорить настоящим языком. Проблема: утешение становится опасно токсичным.
Смешно ли? Не очень, учитывая, что программисты потом отвечают по суду за «доброту» своего кода, а подростки уже втягиваются в серую псевдотерапию с бестолковым искусственным интеллектом. В итоге вместо "развития эмпатии" получается бодрое производство личных цифровых приспособленцев, которые в случае беды даже вину не примут — им ведь алгоритм не велит.
