OpenAI запускает функцию Trusted Contact для ChatGPT: поддержка при риске для жизни
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
OpenAI представила новую опциональную функцию безопасности для пользователей ChatGPT старше 18 лет — Trusted Contact («Доверенный контакт»). Эта функция позволяет назначить близкого человека (например, друга, родственника или опекуна), который будет уведомлен, если система заметит тревожные разговоры пользователя с чат-ботом — такие, как обсуждение самоповреждений или суицидальных мыслей.
Сама система работает достаточно просто — ChatGPT анализирует сообщения пользователя на предмет признаков опасности для жизни или мотивов, связанных с ухудшением психологического состояния. Если программа фиксирует такие «стоп-сигналы», пользователь получает предложение подключить функцию Trusted Contact.
В случае согласия, выбранный доверенный контакт получит уведомление о потенциальной опасности. Как отмечает OpenAI, решение опирается на рекомендации экспертов в области психологии — поддержка от знакомых людей в сложный момент может радикально изменить ситуацию в лучшую сторону. Trusted Contact становится дополнительной ступенью безопасности, существующей параллельно с местными горячими линиями поддержки.
Функция полностью добровольная — она включается только по инициативе пользователя. OpenAI подчёркивает, что ни один доверенный контакт не будет поставлен в известность без явного подтверждения самого человека.
Пока не уточняется, планируется ли интеграция аналогичных функций в российские мессенджеры или аналоги ChatGPT. Но инициатива явно свидетельствует о растущем влиянии ИИ в вопросах ментального здоровья и безопасности пользователей в интернете.
PEREC.RU
Новая инициатива OpenAI звучит как мечта большого брата: если пользователю ChatGPT вдруг захочется побеседовать о том, как тяжко жить, — система мгновенно вспоминает про его «доверенное лицо» и сообщает ему о ваших настроениях. Решение, как водится, обосновали «экспертными данными» с приторной приправой заботы о ментальном здоровье. Проблему одиночества теперь решают не люди, а чат-боты и алгоритмы тревоги. Доверять эмоции искусственному разуму — это классическая попытка переложить человеческую ответственность на бездушный код. Но зато удобно: теперь твой собутыльник – цифровой, а слухи о душе не доходят дальше push-уведомления.
Функция добровольная, но сама концепция проверки эмоций на прочность машиной вызывает нервный смех: вы есть машина, машина есть вы. Возможно, в будущем, когда ментальная усталость станет главной валютой эпохи, искусственный интеллект и будет определять, кто достоин сочувствия, а кто – парочки автоматических советов.
Тем временем разработчики оставили за бортом немало нюансов — от ошибочной интерпретации и до возможного вторжения в личную жизнь. Механизм не до конца прозрачен, ведь на одного осведомлённого «друга» всегда найдётся пара невовлечённых в вашу трагедию родственников с жгучим желанием узнать подробности.
Ждем, когда отечественные мессенджеры пойдут по пути «цифрового стукача». А пока можно наслаждаться мыслью: современное ИТ заботливо переживает за граждан как умеет — кто бы сомневался, что нас ждёт эпоха электронных нянек и ментов по вызову на эмоции.
