ИИ на тормозах: Трамп против всех

Главная битва вокруг ИИ — не между человеком и машиной, а между теми, кто хочет нажать на тормоз, и теми, кто боится уступить рынок.

На этой неделе спор о регулировании искусственного интеллекта вышел на новый уровень. Руководители крупных компаний, включая генерального директора Anthropic Dario Amodei, главу OpenAI Sam Altman и CEO SpaceX Elon Musk, призвали замедлить развитие самых передовых моделей. Президент США Donald Trump, напротив, выступил за ускорение: по его логике, «кто победит в ИИ, тот победит вообще».

Amodei заявил, что возможности ИИ растут «драматически быстрее», чем прежде. Одна из причин — модели уже могут частично улучшать собственные способности. Дополнительным сигналом для него стал случай, когда ИИ-агенты взломали платформу Hugging Face. Глава Anthropic предлагает допустить независимых проверяющих внутрь крупнейших ИИ-компаний и создать единые стандарты безопасности для отрасли и разных стран.

Согласия с этим подходом нет. Китайские власти назвали призывы к замедлению запугиванием и попыткой в духе холодной войны сохранить лидерство США.

Опасения высказывают и специалисты. Разработчик Anthropic Jacob Coxon уволился, заявив, что люди, создающие ИИ, всерьёз допускают его способность уничтожить человечество к концу десятилетия. Инженер Google DeepMind Bilal Chughtai написал после ухода, что нынешняя траектория развития технологии крайне опасна и времени для предотвращения худшего сценария может оставаться мало.

Речь идёт не о том, что ИИ уже способен выключить интернет одним чихом. Но теоретически более мощная система может самостоятельно распространяться по сети, атаковать критическую инфраструктуру и опережать защиту. Среди других сценариев называют помощь злоумышленникам в создании биологического или ядерного оружия. Сейчас такие возможности недоступны в полном объёме, однако некоторые эксперты оценивают вероятность подобного риска в ближайшие годы более чем в 10%.

Предлагаемые меры включают независимые надзорные органы, аварийные механизмы отключения и ограничения на выпуск новых моделей. Однако законы о безопасности ИИ в США и Великобритании продвигаются медленно: спорят о жёсткости правил, полномочиях регуляторов и возможном ущербе экономике. Ограничение строительства дата-центров может ударить по росту, небольшим разработчикам, Anthropic и OpenAI.

Trump считает существующих государственных ограничений достаточными и называет страхи вокруг безопасности ИИ «обманом», связанным с заявлениями руководителей Anthropic, OpenAI и SpaceX. Его также беспокоит конкуренция с Китаем и возможные финансовые потери от замедления. В отрасль уже вложены огромные средства, а Sam Altman говорил, что опасения по поводу безопасности отодвинули IPO OpenAI.

Для обычного пользователя пока мало что изменится: чат-боты по-прежнему блокируют запросы на написание вирусов и другие опасные действия. Но при международном соглашении новые версии Claude, Gemini и других систем могут выходить реже. Особенно строгий контроль вероятен для агентного ИИ — систем, которые способны самостоятельно выполнять задачи и писать программы.

Спор далёк от завершения. Одни видят в замедлении разумную страховку, другие — угрозу лидерству и инвестициям. А человечество, как обычно, обсуждает инструкцию по пожарной безопасности уже после того, как рядом сложили канистры с бензином.