OpenAI подала в суд после опасного медицинского совета ChatGPT

OpenAI, компания, стоящая за знаменитым искусственным интеллектом ChatGPT, оказалась втянутой в судебный процесс после того, как её продукт якобы выдал опасный медицинский совет, который чуть не привёл к трагедии. Истец — пастор из США, утверждающий, что действия ChatGPT едва не стоили ему жизни.

Суть иска в следующем: пастор обратился к ChatGPT с вопросом о состоянии здоровья и получил рекомендации, которые, по его словам, оказались «в корне ошибочными и потенциально смертельно опасными». После применения советов, предложенных ИИ, его состояние резко ухудшилось. Пастор убеждён, что если бы он продолжал следовать этим рекомендациям, мог бы погибнуть.

Представители OpenAI в ответ на иск заявляют, что их продукт всегда позиционировался как информационный ресурс, не предназначенный для диагностики и лечения, а сам ИИ не заменяет профессиональную медицинскую консультацию.

Тем не менее, дело иллюстрирует масштаб влияния таких платформ, как ChatGPT, и риски, которые возникают, когда пользователи воспринимают искусственный интеллект слишком буквально. В свете этого случая обсуждается, какие ограничения и меры предосторожности должны быть внедрены для пользователей подобных сервисов.

Судебный процесс ещё не завершён, но он уже послужил тревожным звонком для всей индустрии ИИ: даже самая продвинутая разработка может обернуться проблемой, если её использовать не по назначению. Для россиян это может быть ещё одним напоминанием, что советы из интернета, даже если их генерирует «умная программа», всегда стоит перепроверять у реальных специалистов.