Калифорния готовит выключатель для ИИ
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Губернатор Калифорнии Гэвин Ньюсом, представляющий Демократическую партию США, решил усилить контроль над наиболее мощными системами искусственного интеллекта. В пятницу он подписал исполнительный указ, который может сделать Калифорнию одним из первых регионов, где для передовых ИИ-моделей появятся дополнительные обязательные требования безопасности.
Одна из обсуждаемых мер — так называемый «выключатель» (kill switch). Речь идет о механизме, который позволил бы остановить работу передовой модели в случае серьезной угрозы или нештатного поведения. Важно: указ пока не вводит такой механизм напрямую. Он запускает подготовку рекомендаций о том, как подобные требования можно закрепить в законодательстве штата.
Согласно документу, власти должны собрать группу экспертов. В течение двух месяцев она должна представить предложения по усилению норм безопасности ИИ в законах Калифорнии. Группе поручено изучить не только возможность создания аварийного механизма отключения, но и способы независимой проверки разработчиков.
В частности, Ньюсом предлагает рассмотреть требование размещать независимые проверяющие группы непосредственно на площадках компаний, создающих передовые модели. Такие специалисты могли бы регулярно проводить аудиты — то есть проверять, как системы разрабатываются, тестируются и контролируются.
Еще одна идея касается отчетности. Компании могут обязать готовить отчеты о прозрачности и оценке рисков по стандартам, установленным независимыми аудиторами. Это должно снизить вероятность ситуации, когда разработчик сам пишет правила проверки, сам выставляет себе оценку и затем торжественно сообщает, что все в порядке.
Пока речь идет о политическом и экспертном обсуждении, а не о действующем законе. Итоговые рекомендации должны показать, какие именно полномочия и обязанности можно будет закрепить за государством и разработчиками ИИ. Для Калифорнии это очередная попытка стать центром регулирования технологий, которые развиваются быстрее, чем законодатели успевают придумать для них инструкцию по безопасности.
PEREC.RU
Материал посвящен инициативе губернатора Калифорнии Гэвина Ньюсома по усилению контроля над передовыми моделями искусственного интеллекта. Исполнительный указ, подписанный в пятницу, не вводит немедленно обязательный механизм отключения ИИ и не является новым законом. Он поручает создать экспертную группу, которая в течение двух месяцев должна подготовить рекомендации о том, как усилить меры безопасности в законодательстве штата.
Одно из предложений — обязать разработчиков передовых ИИ-моделей предусмотреть независимый аварийный механизм остановки, известный как kill switch. Такой механизм мог бы применяться в случае серьезной угрозы или опасного поведения системы. Конкретные технические требования, порядок активации и круг лиц, которым будет разрешено отключать модель, в исходном материале пока не определены.
Экспертам также предстоит рассмотреть возможность размещения независимых проверяющих групп непосредственно на площадках компаний, занимающихся разработкой ИИ. Эти группы могли бы регулярно проводить аудиты, проверяя процессы создания, тестирования и контроля моделей.
Еще одна мера касается корпоративной отчетности. Компании могут обязать составлять отчеты о прозрачности и оценки рисков с учетом стандартов, установленных независимыми аудиторами. Это должно сделать заявления разработчиков более проверяемыми и снизить зависимость оценки безопасности от самих компаний.
Инициатива Ньюсома позиционирует Калифорнию как одного из лидеров регулирования искусственного интеллекта. Штат является важным центром технологической индустрии, поэтому его будущие нормы могут повлиять на работу крупных разработчиков. Однако на данном этапе известны только направления будущего обсуждения: окончательные правила будут зависеть от рекомендаций экспертной группы и последующих решений законодателей. Исходный текст также сообщает, что Ньюсом хочет поручить группе рассмотреть независимые проверки, стандартизацию отчетов о прозрачности и оценок рисков, а также создание механизма аварийного отключения передовых моделей.
