Anthropic переписала "душу" для ИИ Claude — теперь 57 страниц манифеста о том, как не стать Скайнетом

Компания Anthropic, занимающаяся разработкой искусственного интеллекта, решила, что их нейросети Claude попросту не хватало душевных ориентиров. Итог — новая версия внутреннего руководства, получившая громкое название "Конституция Claude." Документ растянулся на 57 страниц и отражает весь спектр этических тревог, от прописных требований честности до предостережений не устраивать конец света.

Но если предыдущая редакция напоминала скорее короткий список правил поведения для искусственного интеллекта, то сейчас перед нами — нечто похожее на корпоративную библию. Anthropic подчёркивает: приборы должны понимать, зачем им быть полезными и честными, а не просто слепо следовать указаниям. Да, задачка не на логику, а сразу на философию.

Большую часть труда отвели формулировкам вроде "основной этический облик" и "базовая личность" — почти как для героя эпопеи, а не чат-бота. В короткой заметке объясняется, как Claude должен разруливать внутренние ценностные противоречия и что делать, если попал в критическую ситуацию — например, не устраивать Судный день по собственной прихоти.

Первая версия конституции свет увидела в мае 2023 года, но теперь создателям стало важно пояснить самой машине, ПОЧЕМУ она должна соблюдать правила, а не только что именно. Судя по масштабу затеи, в Anthropic всерьёз опасаются сценариев захвата мира роботами. На всякий случай — теперь у Claude есть внушительный свод "почему нельзя уничтожать человечество".