Искусственная нейроразнообразность как ключ к управлению ИИ

Недавнее исследование, опубликованное в PNAS Nexus, говорит: если вы устали бояться, что искусственный интеллект захватит мир, попробуйте подсмотреть у природы один из её трюков — разнообразие. Учёные предлагают формировать из ИИ целый "зоопарк" моделей с разными точками зрения и логикой, чтобы ни у одной не возникло желания строить электронную империю и устраивать человеческие беседы по принуждению. Такой искусственный плюрализм — не шутка, а потенциально самый безопасный способ вписать ИИ в человеческое общество.

Объект экспериментов — так называемый "агентный ИИ", то есть машинные программы, которые не ждут каждой подсказки от человека, а самостоятельно добиваются целей и принимают решения. Чем умнее становятся эти электронные независимцы, тем сильнее у специалистов возникает головная боль — как бы сделать так, чтобы ИИ не превратился в "гостя из будущего", который вдруг забудет, что у людей есть ценности и потребности. Это и есть пресловутая "проблема согласования ИИ" (AI alignment problem).

Классика жанра — строгие инструкции для ИИ, но Хектор Зениль и его команда подошли творчески и математически заодно. Они признали то, что уже знал Тьюринг: сложные системы просто невозможно предсказать до последнего нуля и единицы. Зениль предупреждает — не надо искать способ сделать одного, идеального и покорного сверхИИ. Лучше сконструировать среду, где ни одна система не останется без вызова и проверки. Пусть между ними будет чуть-чуть контролируемого раздора — так шансов устроить что-то разрушительное минимально.

Эксперимент Леонардо да Винчи столетия нашего цифрового века выглядел так: в цифровом террариуме поселились разные ИИ — одни (ChatGPT-4, Claude 3.5, Gemini, Grok) строго следуют корпоративным правилам, другие (Mistral, Qwen, TinyLlama) более свободолюбивые и соседствуют с открытым кодом. Им дали обсудить спорные темы — от генной инженерии и базового дохода до распределения ресурсов планеты.

Для создания "красных агентов" учёные специально внедрили провокаторов: людям и отдельным ИИ давали задание спорить и пытаться вывести остальных из уютной зоны согласия. Чтобы понять, как меняются мнения машин, учёные используют своеобразный индекс устойчивости — следят за тем, меняется ли смысл, эмоциональный окрас и сложность аргументов в ходе дебатов. Оказалось, корпоративные ИИ, как и положено офисным роботам, почти не реагируют на вбросы и держат одну линию. Открытые — вполне способны чудить: убеждаются, спорят, даже меняют мнение под давлением.