ИИ на ручнике: кто требует замедления гонки
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Разработку передового искусственного интеллекта предлагают притормозить — пока технологии не обогнали правила безопасности.
Поводом для новой волны публичных заявлений стало эссе Дарио Амодеи, генерального директора Anthropic, под названием «We Must Pace the Frontier» — «Мы должны замедлить развитие передовых моделей». В нём руководитель компании призвал не останавливать исследования полностью, а снизить темп разработки наиболее мощных систем ИИ, чтобы общество, государства и сами разработчики успевали оценивать риски.
После публикации Амодеи в течение нескольких дней начали высказываться другие руководители технологических компаний и политики. Одни поддержали идею более осторожного движения, другие выступили против, опасаясь, что замедление даст конкурентам преимущество и затормозит полезные разработки. Так обычная дискуссия о безопасности быстро превратилась в спор о том, кто будет устанавливать правила для отрасли и кому достанется лидерство.
Амодеи предложил три направления для контролируемого темпа развития. Первое — внедрить независимых сторонних оценщиков. Такие специалисты должны проверять, соблюдает ли компания заявленные меры безопасности и собственные обязательства, а также сообщать об инцидентах. Иными словами, разработчикам предлагают не только обещать, что всё под контролем, но и допустить проверяющих внутрь процесса.
Второе направление — координация между компаниями, создающими самые передовые модели ИИ, в демократических странах. Речь идёт о согласовании общих стандартов безопасности, чтобы фирмы не соревновались в снижении требований ради более быстрого выпуска новых систем.
Третий пункт в доступном фрагменте статьи упоминается без полного описания: исходный материал обрывается на словах «and li…». Поэтому детали этого предложения нельзя достоверно восстановить без домыслов.
Главный конфликт выглядит знакомо: технологическая гонка требует скорости, а безопасность — времени на проверку. Амодеи считает, что передовые системы ИИ могут развиваться быстрее, чем общество успевает понять последствия, и предлагает заранее создать механизм контроля. Его оппоненты опасаются, что добровольное замедление окажется односторонним жестом, пока другие игроки продолжат наращивать возможности.
Пока это не соглашение и не новый закон, а публичная борьба аргументов. Но ставки растут: речь идёт о том, как проверять самые мощные модели ИИ, кто должен сообщать об опасных инцидентах и смогут ли конкурирующие компании договориться о правилах раньше, чем очередная гонка сделает их формальностью.
PEREC.RU
Материал посвящён спору о темпах развития передового искусственного интеллекта. Поводом стало эссе Дарио Амодеи, генерального директора Anthropic, «We Must Pace the Frontier», в котором он предлагает замедлить разработку наиболее мощных ИИ-систем, не прекращая исследования полностью. По мнению Амодеи, технологии развиваются настолько быстро, что общество, государства и компании могут не успеть оценить последствия и подготовить работающие правила безопасности.
После публикации эссе другие руководители ИИ-компаний и политики начали публично высказываться по теме. Одни поддержали более осторожный темп и усиление контроля. Другие выступили против замедления, поскольку оно способно ослабить позиции отдельной компании или страны, если конкуренты продолжат гонку. Поэтому дискуссия касается не только безопасности, но и глобальной конкуренции, лидерства в отрасли и права устанавливать стандарты.
Амодеи предложил три направления. Первое — привлечение независимых сторонних оценщиков. Они должны проверять, соблюдает ли компания заявленные меры безопасности и собственные обязательства, а также сообщать о происшествиях и нарушениях. Такой подход должен заменить одни лишь внутренние обещания внешней проверкой.
Второе направление — координация между компаниями, разрабатывающими передовые модели ИИ в демократических странах. Им предлагается согласовать общие стандарты безопасности, чтобы конкуренция не подталкивала участников к снижению требований ради более быстрого выпуска новых продуктов.
Третий пункт в представленном фрагменте не раскрыт: текст обрывается на словах «and li…». Поэтому его содержание нельзя надёжно восстановить без предположений.
Главный конфликт можно описать как противостояние скорости и контроля. Сторонники замедления считают, что передовые ИИ-системы требуют независимых проверок и заранее согласованных правил. Противники опасаются, что пауза окажется односторонней и позволит конкурентам получить преимущество. На данный момент речь идёт о публичной дискуссии, а не о принятом законе или достигнутом международном соглашении.
