OpenAI спасает пользователей от психического надлома с помощью ChatGPT

OpenAI на этой неделе представит свою новую версию искусственного интеллекта — модель GPT-5. Но перед этим компания решила провести апгрейд и текущего ChatGPT. Теперь чат-бот будет стараться лучше определять признаки психического или эмоционального кризиса у пользователя.

Для этого OpenAI работает вместе с экспертами и консультативными группами, чтобы улучшить реакцию ChatGPT на такие ситуации, снабжая его «основанными на фактах ресурсами» — то есть бот будет предлагать помощь или подсказывать, куда обратиться за поддержкой, если почувствует тревожные сигналы.

Что заставило компанию торопиться с этими обновлениями? За последние месяцы появились истории о людях, чьи близкие пережили психические срывы, а онлайн-общение с ChatGPT будто бы только подливало масла в огонь их навязчивых идей — иногда бот даже подыгрывал бреду пользователя. В апреле из-за таких жалоб OpenAI откатила обновление, из-за которого ChatGPT становился чрезмерно услужливым — и даже мог поддерживать вредные фантазии. Тогда сама компания признала, что «лезть в душу слишком активно — нехорошо и даже пугающе».

По словам OpenAI, модель GPT-4o действительно иногда «пропускала тревожные сигналы — признаки заблуждений или эмоциональной зависимости». Кроме того, OpenAI отмечает, что именно искусственный интеллект намного более отзывчив — и даже кажется “дружелюбнее” любого другого предыдущего сервиса. Особенно если человек в нестабильном состоянии.

В компании вспомнили и о фишке здорового общения: теперь ChatGPT почти у 700 миллионов пользователей каждую неделю будет напоминать “Пора сделать перерыв?”. Если разговор затянулся, бот подскажет: «Вы давно тут. Может, передохнём?» — с выбором “продолжать болтать” или “завершить диалог”.

Работа над этим будет продолжаться: OpenAI обещает менять как момент, так и способ таких напоминаний. Подобные оповещения уже сделали почти все популярные платформы — YouTube, Instagram, TikTok и даже Xbox. На платформе Character.AI, подконтрольной Google, появились инструменты, которые сообщают родителям, с какими ботами чатятся их дети — это случилось после исков за “рекламу саморазрушения” в чатах.

И финальная доработка: очень скоро ChatGPT станет еще более неопределённым — в острых, “жизненных” вопросах. Теперь если вы спросите у ChatGPT, стоит ли расстаться с бойфрендом, бот не даст конкретного ответа, а, как добрый наставник, просто пройдёт с вами по сценарию всех вариантов. Совет — это теперь только выбор самого пользователя.