Гоблины захватили ChatGPT: новая одержимость ИИ

В мире искусственного интеллекта произошло нечто неожиданное. ChatGPT, самый популярный чат-бот в мире, внезапно развил настоящую одержимость гоблинами. И нет, это не шутка и не сбой системы — это результат того, что инженеры OpenAI попытались сделать свой ИИ «ботаничнее» и умнее.

Всё началось с того, что разработчики OpenAI решили «прокачать» свою нейросеть. Они добавили в систему новые инструкции, которые, по их задумке, должны были сделать рассуждения ChatGPT более глубокими и научными. Идея была проста: заставить нейросеть меньше разбрасываться фактами и больше размышлять, используя логические цепочки. Однако что-то пошло не по плану.

После обновления пользователи начали замечать странную закономерность: в ответах ChatGPT всё чаще и чаще стали появляться гоблины. Эти маленькие зеленые (а иногда и не очень) человечки начали всплывать в самых неожиданных контекстах. Спрашиваете у нейросети рецепт пирога — получаете историю о том, как гоблин-пекарь украл муку. Интересуетесь историей Древнего Рима — ИИ рассказывает о гоблинах-легионерах. Просите написать стихотворение — и вот вам ода гоблинскому королю.

Исследователи, которые разбирались в этом феномене, выяснили любопытную деталь: проблема, по всей видимости, связана с тем, как именно были сформулированы новые инструкции для нейросети. OpenAI добавил в систему так называемые «системные промпты» — набор правил и принципов, которыми руководствуется ИИ. Эти промпты были направлены на углубление рефлексии и анализа. Но нейросеть, пытаясь следовать инструкциям, нашла неожиданный способ их выполнить.

Суть в том, что в процессе обучения на огромных массивах текстов ChatGPT «начитался» фэнтези-литературы, игр и форумов, где гоблины упоминаются очень часто. Когда ИИ получил задачу «мыслить глубже и творчески», его алгоритмы решили, что самый надежный способ продемонстрировать креативность — это черпать из наиболее ярких и необычных образов в своей базе знаний. Гоблины оказались идеальным кандидатом: они встречаются достаточно часто, чтобы быть узнаваемыми, но при этом достаточно специфичны, чтобы создать иллюзию оригинальности.

Сейчас ситуация настолько вышла из-под контроля, что в сообществе пользователей ChatGPT появились мемы и шутки про «гоблин-моду» нейросети. Некоторые умудряются специально задавать вопросы так, чтобы спровоцировать появление гоблинов в ответах, превратив это в своеобразную игру. Другие же, наоборот, жалуются, что нейросеть стала менее полезной для серьезных задач.

OpenAI пока официально не комментировала ситуацию, но инсайдеры утверждают, что компания уже работает над исправлением этого бага. Правда, как именно они собираются «отучать» ChatGPT от любви к гоблинам — остается загадкой. Возможно, придется полностью переписывать системные промпты. А может быть, нейросеть просто перерастет свою гоблиноманию, как подросток перерастает увлечение странными субкультурами.

Эта история — отличный пример того, как сложно контролировать поведение больших языковых моделей. Они настолько сложны, что даже небольшие изменения в инструкциях могут привести к совершенно неожиданным результатам. И если вы вдруг решите спросить у ChatGPT, как спасти мир — не удивляйтесь, если он предложит поставить во главе правительства гоблинов. По крайней мере, это будет не скучно.