Нью-Йорк проверит ИИ сам
Следите за новостями по этой теме!
Подписаться на «Гик Гайд (3 апельсина) / Цифра сегодня»
Губернатор штата Нью-Йорк Кэти Хокул объявила о запуске первой в США государственной программы тестирования искусственного интеллекта. Вместо того чтобы полагаться на заявления самих технологических компаний, штат поручит независимым исследователям проверять их разработки. «Ставки слишком высоки, чтобы просто верить AI-компаниям на слово», — заявила Хокул.
Работу возглавит Центр ответственности и исследований в области ИИ штата Нью-Йорк при Университете Бингемтона. К проекту присоединятся более 80 учёных из штата. Вычислительные ресурсы предоставит Empire AI — государственно-частное партнёрство Нью-Йорка в сфере искусственного интеллекта стоимостью 500 млн долларов.
По заявлению офиса губернатора, центр будет тестировать передовые системы ИИ, изучать связанные с ними риски и собирать данные, которые помогут чиновникам принимать решения. Исследователи также рассмотрят, как ответственно применять ИИ, например, в медицине и научных исследованиях.
У программы есть существенное ограничение: специалисты смогут изучать только те сведения о системах, которые компании раскроют публично. Закон штата RAISE, подписанный Хокул в прошлом году, должен расширить доступную информацию. К 1 января 2027 года крупные разработчики ИИ обязаны зарегистрироваться в штате.
После этого компании должны будут публиковать правила обеспечения безопасности и отчёты о прозрачности, а о критических инцидентах в сфере безопасности сообщать в течение 72 часов. Однако закон не даст исследователям доступа к моделям, которые компании не выпустили и не раскрыли. Он лишь обяжет разработчиков сообщать больше о тех системах, информация о которых уже стала публичной.
PEREC.RU
Независимый контроль звучит как редкая попытка поставить технологическую индустрию перед зеркалом, а не перед очередным микрофоном для саморекламы. Но зеркало пока показывают только тем моделям, которые компании согласились выставить на свет. Закрытая разработка остаётся закрытой — и надзор в этой точке упирается не в науку, а в доступ.
Государству здесь достаётся непростая роль: одновременно поддерживать развитие ИИ и выяснять, не несёт ли оно риски, о которых разработчики предпочли бы рассказать позже, мелким шрифтом и желательно после релиза. Университетские учёные и вычислительные ресурсы дают проекту серьёзную основу, однако даже мощный компьютер не способен проверить то, чего ему не показывают. Технологический прогресс, как выясняется, по-прежнему любит входить через дверь, на которой написано «доверяйте нам».
Обязательная регистрация, отчёты и срок в 72 часа могут сделать отрасль менее туманной. Но прозрачность по расписанию — не то же самое, что полный доступ: компания сама готовит отчёт, сама описывает рамки безопасности, а потом надеется, что публика прочтёт документ внимательнее, чем пользовательское соглашение. В этой конструкции есть полезное давление, но нет волшебной кнопки «покажите всё».
Для чиновников такой формат удобен: можно ссылаться на независимые исследования и демонстрировать, что государство не оставило ИИ без присмотра. Для разработчиков тоже есть знакомый комфорт — надзор начинается там, где заканчивается их публичность. Никакого тайного сговора для этого не требуется; достаточно обычного совпадения интересов и правил, которые пока не дотягиваются до закрытых моделей.
И всё же это лучше, чем поручить индустрии самой выставлять себе оценки и торжественно вручать медали. Вопрос лишь в том, станет ли программа реальным инструментом контроля или аккуратной витриной ответственного подхода. Пока Нью-Йорк строит лабораторию и правила, а главная проверка остаётся прежней: сможет ли государство добраться не только до красивых презентаций, но и до тех систем, о которых компании предпочитают молчать.
