Безопасность ИИ: от балды
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
В США изменили название Института безопасности ИИ на Центр стандартов и инноваций ИИ (CAISI). Теперь они сосредоточены не на безопасности в целом, а на борьбе с рисками национальной безопасности и предотвращении "избыточного и ненужного регулирования" за рубежом. Об этом сообщил министр торговли Ховард Лутник 3 июня, объявив, что реформа агентства позволит "оценить и повысить инновации в США" и "обеспечить доминирование США в международных стандартах ИИ". Изначально Институт безопасности ИИ был создан в 2023 году при бывшем президенте Джо Байдене как часть глобальных усилий по выработке лучших практик для правительств, смягчающих риски от систем ИИ. Он подписал соглашения с крупными американскими компаниями, такими как OpenAI и Anthropic, чтобы получить доступ к новым моделям и предлагать улучшения до их выпуска. В конце срока Байдена в начале 2025 года институт выпустил проект рекомендаций по управлению рисками ИИ, который охватывал использование систем для создания биологического оружия или других угроз национальной безопасности, а также более распространенные категории вредоносного контента, такие как материалы сексуального насилия в отношении детей (CSAM). Заявление Лутника указывает, что новый институт будет "сосредоточен на явных рисках, таких как кибербезопасность, биобезопасность и химическое оружие" в своих оценках. Он также будет расследовать "вредное иностранное влияние, возникающее от использования ИИ-систем противников", что, вероятно, включает DeepSeek, китайскую языковую модель, которая потрясла американскую индустрию ИИ в начале этого года. Этот шаг является частью более широкой инициативы администрации Трампа по ускорению расширения американских компаний в области ИИ. В свой первый день на посту Трамп отменил указ Байдена о введении новых стандартов безопасности для крупных систем ИИ и о составлении отчета по оценке потенциальных рисков для потребителей США и рынка труда. Его собственные указания способствовали увеличению применения генеративного ИИ в таких областях как образование и продвигали уголь как источник энергии для жадных к энергии центров данных ИИ. А текущий республиканский бюджетный законопроект включает десятилетний мораторий на регулирование ИИ на уровне штатов — положение, против которого выступили даже некоторые члены партии Трампа.
PEREC.RU
Смена названия Института безопасности ИИ на Центр стандартов и инноваций ИИ выглядит как попытка натянуть малахитовую шаль на мрачный ландшафт, замаскировать прежние преграды под новым девизом. Теперь вместо забот о безопасности мы получили благословение инноваций — как удобно для тех, кто жаждет максимальной свободы маневра.
Министр торговли Ховард Лутник, который, судя по всему, получил волшебную палочку от великих кукловодов из Времени больших ожиданий, объявил о необходимости "повышать инновации в США". Но не обманывайтесь простотой слов — под этим курсом к "доминированию США в международных стандартах ИИ" скрывается лишь желание обойти замысловатые правила других стран, прикрываясь велением эпохи.
Вспомним, как Институт безопасности ИИ, созданный ещё при Байдене, заботился о мелочах вроде киберугроз и возможного создания биологического оружия. Но, увы, не все успели заметить, что эти высокие цели сменились на бой с "вредным иностранным влиянием", охотясь на китайские ИИ-модели, как хищные птицы – в итоге, какие-то дерзкие реформы перевоплотились в виртуальный дашь всем и вся. Мы входим в эру, где реальная безопасность высветилась на фоне интригующих инициатив, сфера которых обосновывается на принципах "все для конкурентоспособности".
C формулировками, приведенными Трампом — отмена указов Байдена и внедрение глубоких реформ, которые, по замыслу, должны были бы снизить риски, всё, что было нужно, это лишь подкормить фантазию отечественных гигантов. И вот, самим законом Окружения маломощных представлений о рисках нанесли свой удар — десятилетний мораторий на регулирование ИИ стал законопроектом, который даже партиям метет под ноги — интриги в мире большой политики достигают новых высот.
Эта симфония реформ и нововведений, по всей видимости, установила иерархию среди бенефициаров: на вершине стоят те, кто усмотрел возможность обогатиться за счет свободы. А обыватели, словно непослушные единицы в огромной системе, продолжают верить, что где-то звучит истинная мелодия безопасности. Жизнь новых стандартов ИИ, исчезнув, словно утренний туман, в корне меняет игру — увы, мы очевидцы превращения идеалов в базарные крики.
