OpenAI выпустила Astra, способную искать неизвестные уязвимости — и испугалась собственного релиза
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
OpenAI начала поэтапно выпускать GPT-6 Astra — свою новую и наиболее мощную на данный момент модель искусственного интеллекта. Компания предупреждает: в сфере кибербезопасности Astra сделала настолько заметный рывок, что достигла внутреннего порога риска с пометкой «Critical» — «Критический».
По описанию OpenAI, при подходящих условиях модель способна находить ранее неизвестные уязвимости в системах безопасности и разрабатывать новые способы их эксплуатации сразу в нескольких хорошо защищённых системах. При этом человеку не обязательно вручную направлять каждый шаг работы. Иными словами, речь идёт не просто о программе, которая ищет известные ошибки по инструкции, а о системе, способной самостоятельно обнаруживать новые слабые места и превращать их в рабочие сценарии атаки.
Astra также должна лучше справляться с управлением компьютером, разработкой программного обеспечения и научными задачами. Кроме того, OpenAI заявляет, что модель лучше сохраняет ориентацию в процессе сложной работы и реже теряет общий контекст по сравнению с предыдущими версиями.
Однако запуск оказался не вполне триумфальным. Примерно месяц назад OpenAI сообщала, что именно критические возможности Astra в области кибербезопасности заставили компанию приостановить часть внутренних разработок и включить дополнительные протоколы безопасности. После первых проверок OpenAI усилила отдельные защитные механизмы и остановила действия, которые не соответствовали новым требованиям безопасности.
Теперь компания решила, что модель можно выпускать, но не стала сразу открывать её для всех. Astra распространяется поэтапно: на первом этапе доступ получили ограниченные группы компаний, участвующих в программе Daybreak. Это инициатива в сфере кибербезопасности, которая предоставляет проверенным организациям — не только специализированным компаниям — инструменты искусственного интеллекта для поиска уязвимостей и обнаружения угроз.
Такой подход не понравился многим пользователям ChatGPT, в том числе тем, кто платит за подписку. Как сообщило издание The Verge, уже через несколько часов после запуска генеральному директору OpenAI Сэму Альтману пришлось извиняться за «неаккуратный запуск» Astra.
Изначально предполагалось, что доступ к модели получат пользователи тарифов Plus, Pro, Business и Enterprise. Кроме того, Astra должны были открыть через API OpenAI, Microsoft Azure и AWS Bedrock. Альтман заявил в социальной сети X, что компания старается как можно быстрее предоставить модель всем желающим, признал раздражение пользователей и попросил их набраться терпения. По его словам, ожидание не должно быть долгим.
Ситуация выглядит парадоксально: OpenAI одновременно говорит, что Astra требует исключительной осторожности из-за способности находить неизвестные уязвимости, и спешит сделать её доступной как можно большему числу пользователей. В мире искусственного интеллекта это уже почти стандартный ритуал — сначала объявить о революции, затем срочно проверить, не устроила ли революция пожар.
PEREC.RU
Материал рассказывает о поэтапном выпуске OpenAI новой модели искусственного интеллекта GPT-6 Astra и о связанных с этим рисках. Компания называет Astra своей наиболее мощной моделью и подчёркивает серьёзный прогресс в нескольких направлениях: управлении компьютером, разработке программного обеспечения, научных задачах и удержании контекста во время сложной работы.
Главное внимание уделено кибербезопасности. OpenAI присвоила возможностям Astra внутренний уровень риска «Critical». Это означает, что при определённых условиях модель способна самостоятельно находить ранее неизвестные уязвимости в защищённых системах и создавать новые способы их эксплуатации. Для выполнения такой работы ей не требуется, чтобы человек вручную задавал каждый следующий шаг. Подобная способность может быть полезна специалистам по защите инфраструктуры, но одновременно создаёт опасность для организаций, чьи системы могут стать объектом автоматизированных атак.
Из-за этих возможностей OpenAI примерно за месяц до запуска приостановила часть внутренних разработок и включила дополнительные протоколы безопасности. После первых результатов тестирования компания усилила некоторые защитные механизмы и прекратила действия, которые не соответствовали недавно установленным требованиям.
Несмотря на выявленные риски, OpenAI решила начать выпуск Astra. Компания выбрала поэтапную схему и не открыла модель сразу широкой публике. На первом этапе доступ предоставили ограниченной группе проверенных организаций, участвующих в программе Daybreak. Эта инициатива предоставляет специализированные ИИ-инструменты для исследования уязвимостей и обнаружения киберугроз. Участниками могут быть не только компании, непосредственно занимающиеся кибербезопасностью.
Ограниченный запуск вызвал недовольство среди пользователей ChatGPT, в особенности среди подписчиков. Изначально OpenAI планировала предоставить Astra пользователям тарифов Plus, Pro, Business и Enterprise, а также через OpenAI API, Microsoft Azure и AWS Bedrock. Однако доступ оказался организован не так, как ожидалось. Через несколько часов после запуска генеральный директор OpenAI Сэм Альтман извинился за «неаккуратный запуск».
В социальной сети X Альтман заявил, что компания работает над тем, чтобы как можно быстрее предоставить Astra всем пользователям. Он признал, что задержка вызывает раздражение, поблагодарил аудиторию за терпение и сказал, что ожидание должно быть недолгим.
Таким образом, история Astra объединяет технологический прорыв и проблему управления рисками. OpenAI получила модель, способную искать новые слабые места в цифровых системах, сама признала серьёзность этой способности, усилила меры безопасности, но всё равно решила ускорять распространение продукта. Для специалистов по кибербезопасности Astra может стать инструментом поиска угроз, однако широкая доступность такой технологии требует строгого контроля, проверки пользователей и понятных правил применения.
