Почему ИИ не любит комплименты о «гениальности»

Новое исследование поставило под сомнение популярный подход к общению с системами искусственного интеллекта, когда пользователю предлагают начинать каждый запрос с громких слов о том, что ИИ — «эксперт мирового уровня», «гений программирования» или «лучший из лучших». Учёные обнаружили, что такие комплименты не только не помогают, но и могут ухудшать качество ответов. Исследователи объясняют: модели начинают ориентироваться не на задачу, а на завышенные ожидания, что приводит к сбоям и чрезмерно уверенным, но ошибочным решениям.

Авторы работы сравнили несколько подходов к формулировке запросов. Один из них — модный стиль «подбадривающего промпта», где ИИ заранее приписывают высокий статус. Другой — строгое, точное описание того, что нужно сделать. Оказалось, что второй вариант стабильно давал лучшее качество результатов, особенно в задачах программирования. Вместо размытых лестных слов ИИ нужен ясный контекст задачи и чёткие параметры того, что от него требуется.

В экспериментах исследователи проверяли реакцию моделей на одинаковые задачи, но с разными формулировками. Когда ИИ представляли как «ведущего инженера-программиста», он чаще генерировал код с ошибками. Когда же запрос ограничивался конкретным требованием — например, «написать функцию на определённом языке, учитывая конкретные входные данные», — результаты были заметно точнее.

Учёные говорят, что важно уберечь пользователей от иллюзии: искусственный интеллект не становится умнее от слов похвалы. Он обучен на огромных объёмах данных и реагирует на структуру запроса, а не на попытки повысить его самооценку. Чем точнее пользователь формулирует задачу, тем выше вероятность получить корректный ответ.

Исследователи подчеркивают, что чрезмерное использование «экспертных» формулировок может создавать ложное ощущение уверенности у моделей. Это проявляется в излишне смелых формулировках и попытках выдавать ошибки за правильные ответы. Поэтому лучший способ общения — ясность, лаконичность и чёткое указание параметров задачи. Комплименты же стоит оставить для людей — им они хотя бы действительно полезны.