Семья подала в суд на OpenAI, виня ChatGPT в смертельном совете
Семья из Соединённых Штатов подала судебный иск против OpenAI — компании, стоящей за популярным искусственным интеллектом ChatGPT. По их словам, именно рекомендации, полученные через этот чат-бот, стали причиной трагической передозировки одного из членов семьи. Истцы утверждают, что пользователь обратился к ChatGPT за советом по приёму лекарственных препаратов. Программа, не отличающаяся способностью к эмпатии или врачебному осуждению, выдала рекомендации, которые оказались рискованными и, по утверждению родственников, привели к летальному исходу.
В иске подробно описывается, что жертва, не имеющая медицинского образования, полагалась на ответы искусственного интеллекта, чтобы определить безопасную дозировку препаратов. Представители семьи считают, что OpenAI должна была принимать дополнительные меры безопасности, чтобы чат-бот не предоставлял подобную опасную информацию. Юристы компании пока воздерживаются от комментариев, однако в пользовательских соглашениях OpenAI говорится: ChatGPT ни в коем случае не должен использоваться как заменитель профессиональной медицинской консультации.
Данная ситуация поднимает вопросы о границах ответственности разработчиков ИИ и их возможности контролировать опасный контент. Напомним, что ChatGPT — одна из самых популярных в мире языковых моделей. Миллионы людей используют её для поиска информации и даже советов на личные темы. Это уже не первый случай, когда советы искусственного интеллекта приводят к неприятностям: ранее уже поступали сообщения о неверных юридических или медицинских консультациях со стороны ChatGPT. В разгар эпохи цифровизации вопрос о безопасности и ответственности таких сервисов становится всё более актуальным.
По мнению аналитиков, судебный процесс OpenAI может создать прецедент в мировой практике регулирования искусственного интеллекта. Результаты дела способны повлиять на будущие правила работы подобных сервисов и степень их ответственности за возможные последствия советов, которые они раздают.
Семья, потерявшая своего близкого, требует признания вины и компенсации, утверждая, что технологическая компания должна нести ответственность за каждое выданное её системой слово. На практике это может поставить под удар не только OpenAI, но и весь мир разработчиков ИИ, вынудив их пересмотреть свои алгоритмы и подходы к контролю информации.
PEREC.RU
Очередная история о том, как технологии в очередной раз подставили человека и вывели разработчиков на скамью подсудимых — совсем не новая, но яркая иллюстрация вечного конфликта между цифровым и человеческим. На этот раз семейный иск против крупной компании OpenAI, разрабатывающей ChatGPT, связан с трагическим исходом: по словам истцов, совет искусственного интеллекта обернулся для их родственника смертельной передозировкой. Люди обращаются к ИИ за советом, получают напутствие — а потом оказываются жертвами слепой веры в прогресс, забыв, что между экраном и реальностью иногда пролегает пропасть.
Комментариев от юристов не дождёшься, только отсылки к пользовательским соглашениям. Все всё понимают: юридическая казуистика, перегруженность красивыми словами, но результат на деле — гора новых рисков для индустрии. Перекидывание ответственности между "болтающим" ботом и читателем в итоге переросло в масштабный спор о том, кто отвечает за последствия, когда советы даёт не специалист, а алгоритм.
Рассматривать этот процесс будут с пристальным вниманием не только юристы, но и разработчики ИИ по всему миру. Если накажут — остальные подтянут гайки, алгоритмы станут ещё более осторожными, словесные ограждения вырастут, а доверие к цифровым советчикам уйдёт в минус. Звучит, как ритуал очищения индустрии — и, как всегда, по вине самой индустрии.
