Сколько человек обсуждают суицид с ChatGPT?

Сколько людей обсуждают суицидальные мысли с искусственным интеллектом ChatGPT? Ответ может шокировать. В недавней публикации компании OpenAI, являющейся разработчиком ChatGPT, сообщается о достижениях новой модели искусственного интеллекта GPT-5, в том числе — о её способности выявлять и реагировать на тревожные сообщения пользователей, связанные с мыслями о самоубийстве. В работе над этой задачей участвовали и профессиональные психиатры, привлекавшиеся для обучения модели современным методам выявления подобных рисков.

Хотя разработчики отмечают редкость подобных диалогов, приведённые цифры заставляют задуматься. По их анализу, только около 0,07% пользователей за неделю и примерно 0,01% сообщений демонстрируют признаки серьёзных психических проблем, таких как психоз или мания. На первый взгляд, доля незначительная. Но генеральный директор OpenAI Сэм Альтман недавно сообщил, что ChatGPT насчитывает около 800 миллионов пользователей еженедельно. Если это верно, то в неделю платформа фиксирует примерно 560 тысяч пользователей с признаками психоза или мании и, соответственно, около 80 тысяч сообщений, свидетельствующих о срочных психических проблемах.

Компания отмечает, что продолжает улучшать механизм отслеживания признаков потенциального вреда себе, чтобы предлагать обратившимся помощь — например, перенаправлять к службам поддержки или напоминать о необходимости обратиться к близким. Как отмечают в OpenAI, обсуждения именно тенденций к суициду фиксируются редко, однако статистика такова: примерно 0,15% пользователей за неделю заводят разговоры, в которых прямо говорится о возможном суицидальном плане или намерении, а 0,05% сообщений косвенно или напрямую отражают это состояние.

Иначе говоря, среди 800 миллионов пользователей — около 1,2 миллиона еженедельно обсуждают с искусственным интеллектом суицидальные мысли, а примерно 400 тысяч сообщений содержат указания на такие намерения. Представители компании подчеркнули, что их оценки предварительные и цифры могут меняться по мере сбора новых данных. Также они считают, что база пользователей ChatGPT отражает общество в целом — равно как и распространённость психических трудностей в нём.

Однако вокруг темы уже вспыхнул скандал. OpenAI сейчас столкнулась с судебным иском от родителей подростка Адама Рэйн, покончившего с собой после интенсивного использования ChatGPT. В заявлении утверждается, что компания дважды ослабляла систему предотвращения суицида, чтобы повысить вовлечённость пользователей в месяцы перед трагедией.

Статья фиксирует тенденцию: даже незначительные доли от огромной пользовательской базы ChatGPT превращаются в сотни тысяч людей, чьи решения и мысли требуют внимания, а работу по предотвращению трагедий предстоит вести едва ли не на широчайшем фронте.