OpenAI распускает команду Preparedness: будущее ИИ — теперь без страховки

OpenAI, одна из самых обсуждаемых компаний в мире искусственного интеллекта, наделала много шума в конце прошлого месяца. Как пишет Financial Times, тут было принято решение распустить так называемую Preparedness Team — команду, которая отвечала за оценку рисков, связанных с передовыми моделями искусственного интеллекта OpenAI, и придумывала методы для их предотвращения. Говоря проще, эти люди должны были предотвращать любые эксцессы, вроде выхода ИИ из-под контроля или попытки взлома какой-нибудь компании силами алгоритма. Тем не менее, теперь вся ответственность браузится по другим подразделениям — конкретно по направлениям, как биобезопасность или кибербезопасность, и распределяется по поглощенным отделам, которые и без того загружены работой.

Почему же всё происходит именно сейчас? Напомним, что OpenAI, с недавних пор не просто арена для инженерного творчества, а огромная компания с глобальными амбициями, готовится к выходу на биржу — а это значит, что все отблиски хаоса внутри фирмы особенно нежелательны на пороге масштабного IPO. В последние несколько лет компания перестала быть клубом продвинутых учёных, постепенно уничтожая наработанные группы и переходя к модели более привычного для Кремниевой долины корпорационного управления. Под нож когда-то пошла даже легендарная команда AGI — и вот теперь ликвидируют и Preparedness Team.

Новая ответственность по анализу угроз теперь размазана по тематическим секциям, и кто знает, превратится ли всё это в очередное письмо счастья: если искусственный интеллект все же решит устроить «вечеринку» без приглашения, кто ответит? Пока неясно, но текущее перетягивание рисков на уже существующие отделы выглядит скорее как надежда на авось, чем на системную работу.