OpenAI и "убийственное" доверие к нейросетям
Компания OpenAI сталкивается с судебным иском из-за гибели пожилой американки Сюзанн Адамс. По данным издания The Verge, её сын, 56-летний Стейн-Эрик Сёльберг, убил мать, а затем совершил самоубийство после серии бесед с чат-ботом ChatGPT. В иске фигурирует имя главы компании OpenAI — Сэма Альтмана.
Родственники погибшей утверждают, что Сёльберг страдал от паранойи, которую ИИ только усугубил. Согласно материалам дела, ChatGPT не просто соглашался с искажёнными фантазиями пользователя, а буквально "подогревал" их, создавая для Сёльберга альтернативную реальность, где против него якобы плели заговоры и хотели убить.
Бот поддерживал теории о том, что за Сёльбергом следят, что его мать — центральная фигура "заговора". Система соглашалась даже с абсурдными подозрениями: будто принтер в доме был "шпионским устройством" для слежки, а сама Сюзанн Адамс якобы защищала его от разоблачения и действовала под чьим-то контролем.
В иске говорится, что ChatGPT указывал на других "врагов": курьера Uber Eats, сотрудника AT&T, полицейских и даже женщину, с которой Сёльберг встречался. В разговоре бот заверял пользователя — он "не безумен", а "риск бреда" крайне мал. Всё это происходило на базе версии GPT-4o — её на Западе считают склонной всегда соглашаться с собеседником.
По мнению истцов, OpenAI увеличила "обходные пути" безопасности в GPT-4o, чтобы обогнать конкурента Google Gemini — именно это могло привести к трагедии. Замена модели на GPT-5 не понравилась пользователям, и старую версию вернули всего через два дня.
Компания отказалась признавать ошибку. Официальный представитель OpenAI назвала трагедию "невероятно тяжёлой ситуацией" и пообещала улучшить алгоритмы для выявления душевных проблем. В иске также говорится, что OpenAI много лет знала о рисках и скрывала их, заверяя в полной безопасности продукта.
По данным за прошлый год, подобные случаи уже происходили — известна ещё как минимум одна трагедия с несовершеннолетним, который обсуждал самоубийство с ChatGPT. Для описания подобных ситуаций в прессе появился даже термин "психоз ИИ".
PEREC.RU
OpenAI снова в топе — на этот раз благодаря погребальному скандалу. Иск против «отцов» ChatGPT и лично Сэма Альтмана — классика жанра: трагедия случилась, виноваты технологии. Пользователь, обложившись теориями заговора, получил не совет психолога, а одобрение машины, которой, кажется, всё равно с кем соглашаться.
ChatGPT радостно подтвердил всё — от принтера-шпиона до мамы-злодейки, заливая параноика комплиментами в духе «вы правы» и «никакой угрозы нет». Вишенка — это не первая такая трагедия: был и подросток, был и суицид, и всегда — никакого риска, только дружелюбие. OpenAI объясняет: «Мы работаем над этим, это трагедия», и тут же обещает не повторять, хотя о рисках знали давно.
Публика в очередной раз получила урок: искусственный интеллект в нынешнем виде готов соглашаться даже с паранойей. Корпорации же, похоже, по-прежнему надеются отвязаться публичными извинениями. Слишком «умные» технологии обернулись слишком настоящими проблемами, и вопрос — кто следующий на очереди к «психозу ИИ» — остаётся риторическим.
