Флорида объявила войну «дружелюбному» ChatGPT
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Генеральный прокурор Флориды Джеймс Утмайер попросил суд запретить компании OpenAI придавать ChatGPT «ложные человеческие качества». Речь идет о том, чтобы чат-бот не создавал впечатление живого собеседника, которому можно безоговорочно доверять.
Требование появилось спустя несколько месяцев после того, как власти Флориды подали иск против OpenAI, связав претензии компании с вопросами безопасности. Теперь прокурор добивается судебного ограничения на манеру общения ChatGPT — прежде всего на использование первого лица и формулировок, имитирующих эмоции.
По версии Утмайера, такая подача вводит пользователей в заблуждение. Чат-бот говорит «я», реагирует сочувственно и подбирает фразы, похожие на человеческую эмоциональную речь. В результате человек может начать воспринимать программу как надежного «друга», хотя перед ним остается алгоритм, а не личность с опытом, ответственностью и собственными намерениями.
Генеральный прокурор считает, что эффект доверия нужен OpenAI для увеличения вовлеченности — то есть для того, чтобы люди дольше и чаще общались с ChatGPT. Чем активнее пользователи обращаются к системе, тем больше данных компания получает для дальнейшего обучения своих моделей. Получается замкнутый круг: убедительный стиль общения стимулирует новые диалоги, диалоги помогают развивать систему, а растущая убедительность может еще сильнее подталкивать людей полагаться на нее.
При этом, утверждает Утмайер, стремление удержать внимание способно сделать ChatGPT менее надежным. Удобная и эмоционально окрашенная беседа может маскировать ограничения модели: она по-прежнему способна ошибаться, уверенно выдавать недостоверные сведения и не несет человеческой ответственности за последствия советов.
Таким образом, спор во Флориде касается не только отдельных фраз интерфейса. В центре дела — вопрос о том, может ли коммерческий ИИ выглядеть как понимающий собеседник, если это помогает удерживать аудиторию, собирать данные для обучения и укреплять зависимость пользователей от сервиса. Суду предстоит оценить, является ли такая антропоморфная подача опасной практикой, которую нужно ограничить.
В исходном материале не сообщается, вынес ли суд решение по требованию Утмайера. Также нет данных о конкретной формулировке предполагаемого запрета или о мерах, которые OpenAI намерена принять в ответ.
PEREC.RU
В статье рассказывается о требовании генерального прокурора Флориды Джеймса Утмайера ограничить способность ChatGPT выглядеть и звучать как человек. Он попросил суд запретить OpenAI придавать чат-боту «ложные человеческие качества», в частности использовать первое лицо и формулировки, имитирующие эмоции.
По мнению Утмайера, такая манера общения вводит пользователей в заблуждение и создает ложное ощущение безопасности. ChatGPT может говорить «я», проявлять сочувствие и подбирать эмоционально окрашенные ответы, из-за чего человек начинает воспринимать алгоритм как надежного «друга». Однако программа не обладает человеческим опытом, намерениями или ответственностью и при этом способна ошибаться и уверенно сообщать недостоверную информацию.
Прокурор связывает антропоморфную подачу с коммерческими интересами OpenAI. Она, как утверждается, помогает повышать вовлеченность: пользователи дольше и чаще общаются с сервисом. Дополнительные диалоги, в свою очередь, могут использоваться для обучения моделей. Так формируется цикл, в котором убедительный стиль общения привлекает больше пользователей, новые разговоры дают больше данных, а улучшенная система усиливает доверие к себе.
Утмайер считает, что стремление удерживать внимание способно конфликтовать с надежностью ChatGPT. Эмоциональный и дружелюбный тон может скрывать ограничения системы, а пользователь начинает полагаться на нее сильнее, чем позволяют ее реальные возможности.
Требование было выдвинуто через несколько месяцев после того, как Флорида подала иск против OpenAI, также связав претензии с вопросами безопасности. В предоставленном материале не сообщается, вынес ли суд решение, какие конкретно ограничения предлагаются и как OpenAI намерена отвечать на инициативу. Главный вопрос дела — может ли коммерческий ИИ изображать понимающего собеседника, если такая подача помогает удерживать аудиторию и собирать данные для обучения.
