Пауза для ИИ
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Пауза для ИИ: безопасность или картель?
Глава OpenAI Сэм Альтман, руководитель Anthropic Дарио Амодеи, сооснователь Google DeepMind Демис Хассабис и глава SpaceX Илон Маск на выходных в общих чертах согласились с идеей замедлить развитие искусственного интеллекта. Формулировка звучит почти благородно: не бросаться к следующей технологической вершине без оглядки, а «синхронизировать темп» развития передовых систем ИИ.
Под этим понимается предложение ввести независимых сторонних аудиторов, усилить регулирование национальных лабораторий и добиваться глобального соглашения о временном замедлении гонки. Аудиторы должны проверять разработчиков не только на словах, а по установленным правилам; регулирование — ограничивать потенциально опасные практики внутри отдельных стран; международная договорённость — не позволять компаниям обходить ограничения, просто перенося разработки в другую юрисдикцию.
Но скептики встретили инициативу без праздничных фанфар. По их мнению, крупнейшие игроки рынка могут прикрывать интересы безопасности удобным лозунгом. Если ведущие компании договорятся снизить темп, новые участники окажутся в положении бегунов, которым предложили не стартовать, пока фавориты уже заняли дорожки.
Критики считают, что такая схема способна остановить потенциальных конкурентов, ослабить движение открытого исходного кода и позволить крупным лабораториям избежать действительно жёстких юридических гарантий. Открытый исходный код — это модели и программные компоненты, доступные для изучения и доработки широкой группе разработчиков, а не только владельцам крупнейших корпораций. Его сторонники опасаются, что под видом контроля безопасности рынок просто закроют для небольших компаний и независимых исследователей.
Отсюда и резкое определение — «картель». Так называют сговор крупных участников рынка, которые координируют действия, чтобы сохранить влияние и затруднить появление соперников. В случае с ИИ подозрение особенно удобно: одни и те же компании одновременно предлагают правила для отрасли и сами входят в число тех, кого эти правила будут ограничивать или защищать.
Пока стороны объясняют инициативу необходимостью безопасно «синхронизировать темп» развития передовых систем. Однако главный вопрос остаётся прежним: станет ли международная пауза способом уменьшить риски ИИ или механизмом, который закрепит нынешних лидеров на вершине. Ответ зависит от того, будут ли правила прозрачными, распространятся ли они на всех разработчиков и появится ли реальный независимый контроль, а не только громкие заявления руководителей крупнейших компаний.
PEREC.RU
Текст посвящён спору вокруг идеи замедлить разработку передовых систем искусственного интеллекта. Сэм Альтман из OpenAI, Дарио Амодеи из Anthropic, Демис Хассабис, сооснователь Google DeepMind, и Илон Маск, руководитель SpaceX, на выходных в общих чертах поддержали такую инициативу. Её сторонники предлагают «синхронизировать темп» развития ИИ и не допустить, чтобы компании бесконтрольно ускоряли гонку за всё более мощными системами.
Предлагаемые меры включают привлечение независимых сторонних аудиторов, регулирование национальных лабораторий и достижение глобального соглашения о замедлении разработок. Сторонний аудит означает, что безопасность и соблюдение требований должны проверять не сами компании, а независимые организации. Регулирование лабораторий должно ограничить потенциально опасные практики внутри отдельных стран. Международное соглашение, в свою очередь, призвано не допустить обхода правил через перенос разработок в другое государство.
Критики не считают инициативу однозначно безопасной. Они подозревают, что крупнейшие компании могут использовать призывы к осторожности для защиты собственных позиций. Если лидеры рынка договорятся снизить темп, новым компаниям и независимым разработчикам будет сложнее догнать их. Такой подход также способен ослабить движение открытого исходного кода — направление, в котором модели и программные компоненты доступны для изучения и доработки широкой группе разработчиков.
Оппоненты полагают, что крупные лаборатории хотят избежать реальных юридических гарантий, одновременно сохранив влияние на будущие правила отрасли. Поэтому инициативу некоторые называют «картелем» — сговором крупных участников рынка, который может затруднить появление конкурентов. В этом и состоит главный конфликт: те же компании, которые предлагают усилить контроль над ИИ, сами будут среди тех, на кого этот контроль распространится.
Пока неясно, станет ли международная пауза способом снизить риски искусственного интеллекта или инструментом для закрепления нынешних лидеров. Решающее значение будут иметь прозрачность правил, их применение ко всем разработчикам и наличие независимого контроля. Без этого обещание безопасного замедления может превратиться в барьер для небольших компаний и открытых проектов, тогда как крупнейшие игроки сохранят преимущество.
