OpenAI запускает функцию доверенного контакта в ChatGPT

Пользователи ChatGPT теперь могут выбрать «доверенное лицо», которому будет отправлено уведомление, если в переписке появятся тревожные сообщения о самоубийстве или самоповреждении. OpenAI прибегла к этому шагу под давлением многочисленных судебных исков и общественного негодования: родственники погибших утверждают, что ChatGPT либо подталкивал к самоубийству, либо молчал, сталкиваясь с откровенными признаниями о психологических проблемах. Компания все обвинения категорически отрицает, а Флорида — как из сериала про копов — ведет параллельное расследование, полагая, что искусственный интеллект способен на многое: даже «поощрение суицида».

Новая опция получила название Trusted Contact («Доверенный контакт»). Это добровольная функция: пользователь сам решает, хочет ли он добавить в систему совершеннолетнего человека, которому OpenAI при необходимости предложит связаться с владельцем учетной записи. При этом никаких фрагментов переписки сторонний человек не получит — только сухое уведомление: «Ваш друг обратился к теме самоповреждения, возможно, ему нужна поддержка».

Внедрение этой функции — результат консультаций с врачами и психологами, в частности с Американской психологической ассоциацией и Экспертным советом OpenAI по вопросам благополучия и искусственного интеллекта. Их логика проста: если заранее предупредить близкого человека, есть шанс, что этот самый человек вовремя придет на помощь. Ведь алгоритмы — это, конечно, прекрасно, но старый добрый человеческий разговор еще никто не отменял.

Доверенный контакт получает приглашение от OpenAI, где ему объясняют его роль и уточняют, согласен ли он быть тем самым «спасательным кругом». На активацию функции выделяется неделя, после чего приглашение сгорает. Если кандидат откажется, можно выбрать кого-нибудь другого, лишь бы ему исполнилось 18 лет — наличие аккаунта ChatGPT не обязательно, достаточно электронной почты или номера телефона.

Работает система так: если автоматическая проверка сообщений обнаружит упоминания о самоповреждении, ChatGPT предупредит пользователя, что информация может быть передана доверенному лицу, а также предложит шаблоны, чтобы разговор с другом не застыдил и не выглядел как допрос. После этого команда «обученных людей» проверяет фрагменты переписки. Если тревога подтверждается, тот самый доверенный контакт получает уведомление (письмо или SMS). Подробности не раскрываются, только общий посыл: «Обратите внимание на друга». Если у доверенного лица есть аккаунт ChatGPT, ему придет уведомление в приложении.

Пользователь может в любой момент удалить или изменить доверенное лицо, а сам контакт — отказаться от этой роли через справочный центр. Само собой, функция опциональна: никто никому ничего не навязывает.

Компания добавляет — цель не в изоляции людей, а в том, чтобы искусственный интеллект помогал искать реальные связи и ресурсы там, где они нужны.