Сенаторы против автономного ИИ

Сенатские демократы США решили вмешаться в разгорающийся конфликт между компанией Anthropic и Пентагоном. Anthropic — разработчик крупных моделей искусственного интеллекта вроде Claude — недавно ввела собственные ограничения: компания не хочет, чтобы её технологии использовали для автономного оружия и тотальной слежки. То есть, чтобы машина сама выбирала, кому жить, а кому нет, или превращалась в инструмент наблюдения за населением в духе плохой антиутопии.

Эти «красные линии» вызвали раздражение у Министерства обороны США. В начале месяца администрация Дональда Трампа внесла Anthropic в черный список поставщиков, фактически объявив компанию «риском для цепочек поставок» из‑за её отказа подчиняться военным требованиям. В ответ Anthropic подала в суд, заявив, что государство нарушило её конституционные права.

Теперь же спор добрался до Конгресса. Сенатор Адам Шифф из Калифорнии предложил законопроект, который закрепит ограничения Anthropic на федеральном уровне — чтобы решения о жизни и смерти всегда принимал человек, а не алгоритм. По его замыслу, это должно не позволить армии создавать полностью автономные системы, способные атаковать без прямого участия оператора.

Другой сенатор, Элисса Слоткин из Мичигана, внесла законопроект, ограничивающий применение искусственного интеллекта для массовой слежки за гражданами США. Слоткин предупреждает: если не прописать правила сейчас, технологии будут развиваться быстрее, чем закон успевает за ними, и тогда риски тотального контроля станут реальными.

Обе инициативы отражают растущие опасения в Вашингтоне: ИИ уже слишком быстро становится инструментом, способным проникать в военные процессы и сферу гражданских прав. А спор между Anthropic и администрацией Трампа — лишь яркий пример борьбы за право определять, что можно поручать машинам, а что — только человеку.