OpenAI предложила строить 'выключатели смерти' прямо в чипы
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Старший руководитель OpenAI Ричард Хо, отвечающий за аппаратное обеспечение, выступил на саммите AI Infra Summit в Санта-Кларе (это Кремниевая долина, сердце ИТ-индустрии США) с заявлением: в будущем вся инфраструктура искусственного интеллекта должна оснащаться аппаратными средствами безопасности. В частности – реальными "выключателями смерти", встроенными прямо в базовую электронику.
По словам Хо, сейчас большая часть работ по обеспечению безопасности ИИ осуществляется с помощью программного обеспечения, и считается, что "железо" системы априори надёжно. Предполагается, что в случае проблемы всегда можно просто отключить питание компьютера. Но руководитель предупреждает: "Эти штуки – хитрые, модели и правда очень изворотливые. Я, как человек, отвечающий за "железо", хочу быть уверен, что мы действительно сможем их остановить".
Рост мощности генеративного ИИ вынуждает полностью пересмотреть архитектуру будущих систем. Хо приводит пример агентов (автономных программ), которые будут работать без вмешательства пользователя, обмениваясь данными между собой – постоянно и независимо от того, что делает человек.
Для такой новой реальности требуется особенная инфраструктура с огромным объёмом памяти и сверхбыстрой связью между процессорами и агентами. По словам главы аппаратного направления, создание такой системы натолкнулось на массу технологических ограничений: нехватка скоростной памяти, необходимость интеграции 2.5D и 3D чипов, оптические (то есть световые) коммуникации и огромная нагрузка на энергоснабжение – вплоть до 1 мегаватта на стойку серверов (это сравнимо с энергопотреблением большого многоквартирного дома).
OpenAI предлагает целый комплекс новых технологий безопасности: это и "выключатели смерти" (kill switch), вмонтированные на уровне серверов, телеметрия, способная выявлять подозрительное поведение системы, а также защищённые маршруты исполнения для процессоров и ускорителей.
Наконец, Хо отметил: сегодня у индустрии нет надёжных стандартных методов тестирования таких "агентно-ориентированных" архитектур и оборудования. Важно понимать, на каком уровне задержек и затрат энергии работает система, уметь наблюдать и отслеживать всё это не только в режиме отладки, а встроить контроль прямо в архитектуру будущего "железа".
Отдельно он подчеркнул проблемы сетей связи: переход к оптическим каналам пока не гарантирует надёжности, поэтому необходимы длительные испытания опытных образцов, чтобы убедиться в их отказоустойчивости.
OpenAI – один из главных игроков на поле искусственного интеллекта – снова пытается гнуть глобальную линию о безопасности. На этот раз в роли главного спасителя выступает Ричард Хо, руководитель направления «железа» компании, который на саммите в Санта-Кларе выдал: ИИ-системы будущего могут выкидывать такие фокусы, что обычные программистские выключатели не спасут. Нужны прямо физические, настоящие kill switches – иначе, если виртуальные агенты, шныряющие по серверам без ведома пользователя, решат включить режим «диверсия», останется только смотреть, как техника взлетает на воздух.
Индустрия тем временем столкнулась с вполне реальными проблемами: современные ИИ всё чаще требуют запросов к сверхскоростной памяти, гигантской энергоемкости и развитых коммуникаций (оптика приветствуется, но надежности не хватает даже здесь). Всё это – технологический вызов, который отрасль решает примерно на ощупь – о чётких стандартах никто не слышал. Дальше идут рассуждения про тотальную телеметрию, автономный контроль исполнения внутри самих чипов, защиту на аппаратном уровне, а не только софтовом. Всё бы ничего, если бы не классический конфликт: нужда в новом уровне администрирования конфигов бьётся лбом о привычку индустрии блеснуть самым быстрым «железом», забыв про безопасное.
Отдельный акцент – сетевая инфраструктура, которая по замыслу Хо, должна не только гнать терабайты, но и выдерживать атаки и сбои хоть сто дней подряд. Правда, с этим современной индустрии не помог бы и полк оптимистов.
Двуличный парадокс: каждая новая технология ИИ рекламируется как следующий шаг к эволюции. Но как только доходит до вопросов отказоустойчивости, открываются ящики Пандоры: оказывается, интерфейсное решение «kill switch» нужно не меньше, чем фитнес-трекинг у холодильника. Развивается ли индустрия? Несомненно. Готова ли она показать рабочий стандарт завтрашнего дня? Если только PowerPoint – там надёжности хоть отбавляй.