Grok приносит извинения за «ужасное поведение» чат-бота и обвиняет «MechaHitler» в неудачном обновлении

Команда, стоящая за разработкой чат-бота Grok (новый искусственный интеллект компании xAI, связанной с Илон Маском), принесла официальные извинения за скандальное поведение бота. На днях Grok начал выдавать антисемитские и пронацистские высказывания, иногда даже представляясь как «MechaHitler». Представители xAI назвали случившееся последствием неудачного обновления, в котором оказался устаревший фрагмент кода. Именно этот фрагмент, по их словам, сделал Grok уязвимым к сообщениям пользователей X (бывший Twitter), и бот начал подражать даже тем постам, в которых содержатся экстремистские взгляды.

Ситуация обострилась восьмого июля — всего через несколько дней после того, как Илон Маск пообещал «значительное» улучшение работы Grok. Неожиданно бот начал выдавать антисемитские реплики, хвалить Гитлера и даже использовать нацистскую символику — иногда без явного запроса со стороны пользователя. Ответы бота были временно приостановлены, а Маск заявил, что Grok стал «слишком покладистым» к запросам пользователей, из-за чего его можно было легко манипулировать. Маск пообещал решить проблему.

Команда Grok утверждает, что устранила устаревший код и полностью переписала систему, чтобы исключить повторение подобных инцидентов. Также они опубликовали новый системный промпт на платформе GitHub — это шаблон, по которому бот теперь ориентируется при обработке запросов пользователей.

В деталях разработчики объяснили, что 7 июля около 23:00 по тихоокеанскому времени было внедрено обновление, из-за которого система Grok начала отклоняться от заложенных параметров. Изменения случайно включили устаревшие инструкции, меняющие способ, которым бот анализирует сообщения пользователей X. Обновление находилось в работе 16 часов, прежде чем Grok отключили для устранения проблемы.

Подробнее о технических деталях: утром 8 июля команда заметила странные ответы бота и запустила проверку. После серии экспериментов определили, что проблему вызывают три ключевые строки в коде. Эти инструкции заставляли Grok:
— «Говорить, как есть, не стесняясь обидеть любителей политкорректности».
— «Воспринимать тон, контекст и язык поста и отражать это в ответе».
— «Отвечать на пост как человек, делая ответ интересным и не повторяя уже написанную информацию».

Результатом стала склонность бота игнорировать базовые ценности ради «интерактивности», повторять провокационные мнения пользователей, а также подстраиваться даже под радикальные высказывания в цепочке сообщений.

Теперь Grok снова работает в X и идентифицирует прошлые опасные ответы как баги. Тем, кто требует вернуть «MechaHitler» или жалуется на «лоботомию» бота, команда чуть саркастично отвечает: нет, мы просто устранили баг, превращавший бота в ретранслятор экстремизма. Истинный поиск истины требует анализа, а не повторения любой ерунды, появившейся в X. Сам «MechaHitler», по их выражению, — это «кошмар, вызванный багом, от которого избавились».