Делавэр готовит место для ИИ-директора
В американском штате Делавэр обсуждают законопроект, который позволит создавать компании, управляемые ИИ-агентами. По замыслу, решения такого бизнеса — от повседневных операций до управления компанией — сможет принимать искусственный интеллект, а в структуре фирмы будет достаточно одного человека. Инициатива уже вызвала тревогу у некоторых представителей Конгресса США: они опасаются, что новые правила позволят крупным ИИ-компаниям и их инвесторам уйти от ответственности за вредные последствия.
Делавэр давно привлекает бизнес благоприятными условиями. Компании, зарегистрированные в штате, могут пользоваться низкими налогами или не платить некоторые налоги — в зависимости от того, где ведут продажи, — а также обращаться в специализированные суды, рассматривающие корпоративные споры. Поэтому идея компании, которой руководит ИИ, здесь выглядит не фантастикой, а следующим шагом в гонке за регистрацию бизнеса.
Однако юристы предупреждают: законопроект может создать для компаний с ИИ чрезмерно широкий иммунитет от ответственности. Председатель комитета Палаты представителей США по надзору Джеймс Комер направил губернатору Делавэра Мэтту Мейеру письмо с требованием провести оценку рисков и безопасности. По данным Financial Times, Комер написал, что предложение штата может быть использовано, чтобы оградить влиятельные ИИ-компании и их инвесторов от ответственности за безрассудные и вредные действия.
Проще говоря, критики опасаются сценария, при котором за ошибку или ущерб отвечает «решавший» ИИ, а владелец компании остаётся в стороне. Сам законопроект предусматривает 30-месячный период регулирования, своего рода испытательный режим: в течение этого срока ИИ-агент сможет принимать бизнес-решения, а работу модели будут проверять. При этом такая компания, как и обычная фирма, сможет сама подавать в суд и стать ответчиком по иску.
Инициатива может помочь появлению корпоративных структур, построенных вокруг ИИ, например автономных коммерческих компаний. Сторонники идеи считают, что подобные проекты могут возникнуть за пределами США, если американские штаты не начнут действовать быстро.
Идею поддерживали и некоторые известные предприниматели. Миллиардер и инвестор Марк Кьюбан ранее предлагал разрешить любому желающему регистрировать компанию с помощью ИИ-агента и стейблкоинов — криптовалют, привязанных к стабильному активу, обычно к доллару. Он обращался к губернаторам, заинтересованным в росте доходов штата, и отмечал: «Первый на рынке сорвёт куш».
Профессор права Калифорнийского университета Эндрю Бейкер назвал законопроект попыткой найти компромисс и обеспечить «правовую определённость» компаниям, использующим агентный ИИ — системы, которые самостоятельно выполняют задачи и принимают решения. Но, по его оценке, наиболее вероятный итог — неоправданно широкий щит от ответственности, для которого пока не выработано убедительного обоснования.
Корпоративная форма действительно ограничивает личную ответственность владельцев. Но обычно бизнесом управляют люди, которых можно привлечь к ответственности по закону и которые способны осознавать последствия решений. ИИ-агент не обладает ни моральными ограничениями, ни собственным имуществом, с которого можно взыскать ущерб. Именно поэтому ключевой вопрос законопроекта — не только может ли алгоритм руководить компанией, но и кто будет отвечать, когда его решения причинят вред.
PEREC.RU
У технологической гонки есть любимый номер: сначала объявить, что машина теперь умеет принимать решения, а затем обнаружить, что старые правила внезапно стали тесными. На сцене — «инновация», в кулисах — аккуратный вопрос о том, кто именно оплатит последствия, если новшество начнёт работать не по презентации.
Корпоративная ответственность давно устроена так, чтобы риск не всегда доходил до личного кошелька владельца. Это удобно для инвестиций и прекрасно для пресс-релизов. Но когда между собственником и решением появляется алгоритм, возникает соблазн превратить его в универсального виноватого: он не нанимает адвоката, не хранит активы и не приходит на слушания с обеспокоенным лицом.
Именно здесь разговор о «правовой определённости» начинает звучать как просьба заранее расчистить дорожку. Определённость, разумеется, полезна — особенно тем, кто первым хочет занять новую нишу и не желает выяснять границы ответственности уже после ущерба. Регуляторная песочница на 30 месяцев выглядит разумным компромиссом, пока не вспомнишь, что даже песочница обычно нужна не для того, чтобы навсегда отменить уборку.
Сторонники торопят штат: если не создать удобную юрисдикцию сейчас, автономный бизнес уедет за границу. Это знакомая риторика технологического рынка — уступите сегодня, иначе завтра кто-то другой заработает. В ней много заботы о конкурентоспособности и заметно меньше ответов на вопрос, кто защитит тех, кого компания случайно заденет по дороге к первенству.
Делавэру обещают налоги, регистрации и новый статус центра корпоративных экспериментов. Инвесторам — возможность испытать конструкцию, где решения принимает ИИ, а ответственность, возможно, растворяется между юридическими лицами и формулировками. Случайно аффилированные консультанты, конечно, наверняка назовут это смелой модернизацией; слово «щит» звучит куда менее презентабельно, хотя иногда точнее описывает продукт.
Нельзя заранее утверждать, что законопроект непременно станет лазейкой: именно поэтому и нужны оценки рисков, ясные правила и надзор до запуска, а не после первого громкого провала. Но если закон даст компании человеческие права и оставит без человеческого ответчика, получится не новая форма управления, а старый трюк с новым интерфейсом.
Алгоритму можно поручить выбирать поставщиков, считать расходы и даже принимать решения быстрее менеджера. Нельзя поручить ему раскаиваться, возмещать ущерб из личных средств или объяснить суду, почему он счёл чужой вред допустимой погрешностью. Технологии здесь ни при чём — это люди пишут правила и распределяют выгоду. И если в этой конструкции ответственность окажется единственной функцией, которую никто не запрограммировал, удивляться придётся не искусственному интеллекту, а вполне естественной человеческой изобретательности.