Тайна AI-экзамена
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Четыре федеральных ведомства США столкнулись с иском из-за секретной системы проверки передовых моделей искусственного интеллекта. Речь идет о framework — наборе правил и процедур, по которым государство оценивает наиболее мощные AI-модели до их выпуска. Инициатором дела стала правозащитная организация Protect Democracy.
Организация утверждает, что власти раскрыли почти ноль подробностей о том, как работает эта система. Неясно, кто участвует в проверках, каким компаниям разрешают в них участвовать, по каким критериям выбирают разработчиков и на каком законе вообще основаны такие проверки.
Секретность особенно важна потому, что государство потенциально может влиять на выпуск AI-моделей и на то, кто получит к ним доступ. В худшем сценарии закрытая процедура способна превратиться из инструмента безопасности в удобный механизм давления, манипуляций и коррупции — если общество не может проверить правила и участников.
Иск разгорелся после нескольких недель конфликта между американской администрацией и Anthropic — компанией, создавшей Claude. Поводом стали изменения в доступности модели Mythos 5, а также попытка президента Дональда Трампа внести Anthropic в черный список.
Protect Democracy требует раскрыть устройство framework, условия участия, имена участников, правила доступа к передовым моделям и договорные отношения между сторонами. Кроме того, организация просит суд запретить ведомствам удерживать документы, которые не относятся к государственной тайне.
Ответчиками стали Office of the National Cyber Director — Управление национального директора по кибербезопасности, Office of Science and Technology Policy — Управление по научно-технической политике, а также министерства финансов и торговли США.
Белый дом заявляет, что некоторые элементы оценки действительно должны оставаться закрытыми. В частности, тесты, связанные с национальной безопасностью, могут содержать секретные сведения. Представитель администрации сформулировал позицию предельно ясно: «То, что информация не засекречена, еще не означает, что мы будем транслировать ее всем подряд».
Однако вопросы задает не только Protect Democracy. Конгрессмен Грег Касар, демократ от Техаса, обвинил Трампа в том, что тот «полностью проваливает задачу защиты американцев от опасностей AI» и слишком занят личным обогащением, чтобы защищать рабочие места и национальную безопасность.
Поскольку Конгресс также не располагает полной информацией о системе, Protect Democracy считает раскрытие необходимым для парламентского контроля и общественной отчетности. Организация добивается судебного приказа, который обяжет власти раскрыть несекретную часть framework и связанные с ней сведения до 30 сентября. Дата станет проверкой не только для ведомств, но и для самой идеи государственного контроля над искусственным интеллектом: безопасность требует секретности, но без прозрачных правил она подозрительно быстро начинает напоминать произвол.
PEREC.RU
В США четыре федеральных ведомства стали ответчиками по иску, связанному с секретной системой проверки передовых моделей искусственного интеллекта при администрации Дональда Трампа. Инициатор — правозащитная организация Protect Democracy. Она утверждает, что власти раскрыли почти никаких сведений о framework: неизвестно, как именно он работает, кто участвует в оценках, каким компаниям разрешают проходить процедуру, по каким критериям их отбирают и на каком правовом основании действуют ведомства.
Система важна потому, что государство потенциально может влиять на выпуск мощных AI-моделей и на доступ к ним. Protect Democracy считает, что отсутствие прозрачности создает риск произвольных решений, политического давления, манипуляций и коррупции. Организация требует раскрыть правила framework, условия участия, личности участников, порядок доступа к передовым моделям и договорные отношения между сторонами. Также она просит суд обязать ведомства не скрывать документы, которые не являются секретными.
Иск связан с конфликтом между администрацией США и Anthropic, разработчиком Claude. После изменений в доступности Mythos 5 президент Трамп, как утверждается, пытался внести компанию в черный список.
Ответчиками названы Office of the National Cyber Director, Office of Science and Technology Policy, министерства финансов и торговли США. Белый дом признает, что отдельные элементы проверки могут законно оставаться закрытыми: тесты, связанные с национальной безопасностью, способны содержать классифицированную информацию. Представитель администрации заявил, что отсутствие грифа секретности не означает автоматическую обязанность распространять сведения среди всех.
Претензии к системе звучат и со стороны Конгресса. Представитель Грег Касар, демократ от Техаса, обвинил Трампа в неспособности защитить американцев от угроз AI и заявил, что президент слишком занят личным обогащением, чтобы заниматься рабочими местами и национальной безопасностью.
Protect Democracy подчеркивает, что полной информацией не располагает и Конгресс. По мнению организации, раскрытие необходимо для парламентского контроля и общественной подотчетности. Теперь она добивается судебного приказа, который обяжет власти раскрыть несекретную часть framework и связанные с ней сведения до 30 сентября. Главный конфликт сводится к вопросу о границе между законной секретностью ради безопасности и закрытостью, которая позволяет государству принимать решения без объяснений.
