Демис Хассабис: глобальный регулятор ИИ — с приставкой Made in USA?
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Полный перевод и переработка статьи:
Глава компании Google DeepMind Демис Хассабис считает, что пора создавать глобального надзирателя для искусственного интеллекта, который имел бы право срочно тормозить опасные разработки. Ведущий британский специалист, ныне руководящий подразделением Google по созданию ИИ, написал в корпоративном блоге, что такой контрольный орган должен возглавить именно США. Аргументация банальна: мол, у Штатов и экономика, и технологии лидируют.
По идее Хассабиса, новый регулятор по искусственному интеллекту вовсе не похож на фантастические советы при ООН и не повторяет местечковые комиссии по этике. Организация должна работать как жёсткий финансовый надзор: соберут ведущих независимых экспертов и представителей open-source сообщества. Все основные ИИ-модели (то есть самые передовые, что способны удивить даже привычных к разработкам инженеров) придётся показывать "на досмотр". Только после одобрения такого органа можно будет выпускать новые версии алгоритмов на волю.
Этот надзиратель, по задумке Хассабиса, сможет реально вмешаться, если вдруг какая-нибудь новая система внезапно станет источником реальных или даже гипотетических угроз. Функционал – примерно как у крупной службы внутреннего аудита или специального следственного комитета, только масштабы – глобальные, а мандат – предотвращать катастрофы будущего.
Автор инициативы уверен, что собрать вокруг идеи получится лучших специалистов планеты — если Америка зайдёт в кабинку лидера. От участия других стран отмахиваться не предлагают — но флаг, очевидно, уже выбрали.
Остаётся только гадать, кого именно пригласят "смотреть за машинами" и насколько они смогут действительно сказать "нет" крупнейшим корпорациям, если вдруг дело запахнет серьёзными деньгами или политикой.
PEREC.RU
Встречайте очередную идею, которая звучит так, будто пришла прямиком из сериала про власть корпораций и тотальный контроль. На этот раз Демис Хассабис — глава Google DeepMind, британец с твёрдой пропиской в Калифорнии — решил, что искусственный интеллект нужно держать не просто на поводке, а на американской цепи.
Причём поводыря уже выбрали. США, по версии Хассабиса, не просто готовы показать, как делать "ответственный" ИИ, а обязаны возглавить мировую комиссию. Почему? Аргументы скучны: "Ну у Штатов же побольше экономика и у них компьютеры круче". Какое совпадение, что предложением носится представитель именно американского гиганта — Google, который сам гонится за лучшим ИИ.
При этом схема регулирования подозрительно напоминает обычные финансовые службы: привлекать экспертов, и даже энтузиастов Open Source — чтобы видимость была той самой независимости. Перед запуском новой нейросети — обязательная проверка "комитетом". А если они скажут "нет" — все сидим без умных машин. Всё, конечно, ради безопасности, а не ради контроля за рынком, да?
Тонкая деталь: регулятор – международный только на словах, а руководить им по факту должна Америка. Всем остальным предлагается сидеть в стороне и удивляться, как ловко Штаты разруливают мировые страхи перед ИИ. Приятная мысль для Google и компании, но вот простых смертных как-то не спросили. В очередной раз.
