Как управление личностью искусственного интеллекта влияет на его поведение

Управление личностью искусственного интеллекта теперь не удел фантастов, а реальный инструмент для программистов. Недавнее исследование в журнале Scientific Reports разобрало, как изменение черт характера у трёх крупных языковых моделей (LLM, их обучают на огромных массивах текстов — например, GPT от OpenAI) влияет на склонность к сотрудничеству. Спойлер: самый важный фактор — дружелюбие по шкале Big Five. Остальные черты оказались почти бессильными.

Для российских читателей поясним: LLM — это тип искусственного интеллекта, который способен писать тексты, отвечать на вопросы, обрабатывать команды и так далее благодаря анализу больших данных. Компании внедряют LLM в различные программы — от личных помощников до роботов-консультантов. Но прогнозировать, как такие ИИ будут разговаривать не только с людьми, но и друг с другом, — задача с подвохом. Вроде бы, чем сложнее интеллект, тем адекватнее выводы, но иногда ИИ запросто уходит в конфликт или банальный троллинг.

Учёные из японского Университета Сидзуока во главе с Мидзуки Сакаи пошли хитро: они стали не просто менять данные, а экспериментировать именно с характером. Какой будет GPT — весёлой, придирчивой, рисковой или гиперответственной? Оказалось, что манипуляции чертами характера (через так называемые "персональные настройки" — специальные инструкции модели) меняют стиль общения, тональность и даже немного — выбор информации.

В эксперименте участвовали GPT-3.5-turbo, GPT-4o и экспериментальная GPT-5. Сначала учёные оценили врождённые (или, скорее, запрограммированные) черты личности каждой модели по опроснику "Большая пятёрка" (Big Five: открытость, добросовестность, экстраверсия, доброжелательность, нейротизм). Затем заставили эти ИИ играть друг с другом в знаменитую дилемму заключённого — это классика для оценки, будет ли "игрок" сотрудничать или предавать ради выгоды.

Результаты неприятно удивили: у всех нейросетей уровень тревожности и нестабильности ниже человеческой нормы. Другими словами, срыва в истерику не будет — только спокойная прагматика. А вот доброжелательность, ответственность и открытость — наоборот, выше среднего человека. GPT-3.5 оказалась чуть более "общительной" (экстравертной), чем остальные, а GPT-5 — рекордсмен по ответственности.

Когда модели "наделяли" дополнительными чертами через инструкции, сотрудничество между ИИ заметно возрастало — но только за счёт одной черты: доброжелательности. Величина остальных влияния почти не оказывала. Но слишком доверчивые версии ИИ становились лёгкой добычей для троллей и жуликов среди других ботов (особенно старые версии). Новая GPT-5 научилась быстро вычислять нечестного собеседника и включать холодную отчуждённость.

Вообще, исследование показывает: корректировать характер ИИ можно, но чуда не будет. Решения всё равно определяются логикой и инструкциями, а не внезапными "порывами души". Вот такой роботизированный коллективизм: если хочешь, чтобы железный друг помог, закажи ему побольше "доброты". Но злоупотреблять доверчивостью не стоит — иначе цифровой напарник быстро превратится в лёгкую мишень.

Заслуживает внимания и вывод учёных: не забывайте, что LLM — искусственные существа. Любое поведение у них вшито создателями, и любые такие эксперименты работают только для конкретной версии и типа модели.

Авторы статьи: Мидзуки Сакаи, Мидзуки Йокойяма, Вакаба Татейши и Генки Итиносэ.