ChatGPT может связаться с другом, если вы в зоне риска членовредительства

ChatGPT, популярный искусственный интеллект от OpenAI, может делать больше, чем просто беседовать и отвечать на вопросы. Теперь у него появилась функция, которая может оказать реальную помощь в сложных жизненных ситуациях. Если пользователю угрожает опасность самоповреждения (self-harm), ChatGPT может связаться с другом или близким человеком этого пользователя, чтобы оповестить его о возможной угрозе.

Эта опция направлена на предотвращение трагических ситуаций и может стать дополнительной поддержкой для тех, кто оказался в психологически тяжелом состоянии. Как только чатбот с помощью анализа сообщений заподозрит, что собеседник может находиться в зоне риска членовредительства, он активирует протокол оповещения. Для этого пользователю до начала общения предлагают заранее указать контакт близкого человека — так называемого доверенного лица, которому сервис сможет написать в случае тревоги.

Разработчики утверждают, что при обнаружении признаков риска AI сначала посоветует обратиться за профессиональной помощью. Если обстановка кажется критической и пользователь согласен, ChatGPT уведомляет доверенное лицо, чтобы тот смог быстро вмешаться, поддержать или вызвать специалистов.

Внедрение этой функции вызывает дискуссии: одни считают, что это прорыв для онлайн-помощи людям в кризисе, другие беспокоятся о приватности и этике — насколько корректно искусственному интеллекту вмешиваться в личные дела, даже если это делается с благими намерениями. OpenAI уверяет, что данные защищены, решение о связи с другом принимается самим пользователем, и происходит это только при крайней необходимости.