Microsoft поставила человека выше ИИ — пока ИИ не стал начальником

Microsoft опубликовала 37-страничный «гуманистический кодекс поведения для ИИ» на фоне растущих опасений по поводу безопасности стремительно развивающихся моделей искусственного интеллекта.

Главный принцип документа сформулирован без корпоративной поэзии: «люди важнее ИИ». Microsoft подчёркивает, что современные ИИ-модели не являются сознательными существами и не должны проектироваться так, чтобы имитировать сознание. Иными словами, система может убедительно вести диалог, изображать эмоции и создавать впечатление личности, но это ещё не делает её человеком — как бы эффектно она ни произносила фразы о «собственных чувствах».

Компания также отвергает стремление наделять ИИ юридическим статусом личности. Речь идёт об идее, согласно которой искусственный интеллект мог бы получить права и обязанности, сопоставимые с правами человека или организации. Microsoft не поддерживает такой подход и считает, что ИИ должен оставаться технологией, созданной и контролируемой людьми.

Публикация кодекса последовала после предупреждений исследователей: развитие ИИ-моделей может опередить способность общества безопасно внедрять всё более сложные системы, а также проверять и контролировать действия ИИ-агентов. Под ИИ-агентами понимают программы, которые способны не только отвечать на запросы, но и самостоятельно выполнять последовательность действий: пользоваться инструментами, искать информацию, запускать процессы и принимать решения в рамках поставленной задачи.

Дополнительное внимание к проблеме привлекло заявление генерального директора Anthropic Дарио Амодеи. В выходные он призвал к скоординированному замедлению разработки ИИ. По его мнению, участникам отрасли необходимо действовать осторожнее, поскольку технологическая гонка может привести к появлению систем, чьи возможности окажутся сложнее для проверки и контроля, чем существующие методы безопасности.

Microsoft тем самым занимает позицию, которая звучит почти революционно для индустрии, привыкшей продавать будущее в блестящей упаковке: развитие ИИ должно учитывать человеческие интересы, а не превращаться в соревнование за максимально автономную машину. Кодекс не останавливает разработку технологий, но задаёт рамки — ИИ не должен изображать сознательное существо, претендовать на юридическую личность или вытеснять человека из центра решений.

Смысл документа прост: чем убедительнее машина выглядит в роли личности, тем важнее помнить, что за её действия должны отвечать люди. Пока отрасль пытается договориться о правилах, исследователи предупреждают о рисках, а компании публикуют кодексы, человечество наконец обнаружило старую проблему в новом корпусе: создать систему оказалось проще, чем заранее понять, как её безопасно остановить.