Будущее с 'рекурсивным' ИИ: будет ли он улучшать себя сам?
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Сооснователь компании Anthropic (одной из ведущих организаций в области искусственного интеллекта) высказался о перспективах так называемого «рекурсивного» ИИ — то есть искусственного интеллекта, который способен сам себя улучшать. По его словам, в будущем люди смогут буквально говорить такому ИИ: «Сделай себя лучше», и система будет полностью автономно становиться умнее, эволюционируя без человеческого вмешательства.
Когда речь идет о подобных технологиях, вспоминается, что рекурсивный искусственный интеллект — это, по сути, машина, способная улучшать собственные алгоритмы и логику работы. Anthropic уже не первый год занимается исследованиями способов безопасной разработки ИИ и предупреждает, что новые поколения таких систем должны запускаться с учетом максимальной прозрачности и регулирования.
По мнению экспертов компании, только автономность «рекурсивного» ИИ дает реальные шансы на скачкообразное развитие технологий — но при этом увеличиваются и риски потери контроля над такими машинами. Сооснователь Anthropic особо подчеркивает, что такой ИИ будет способен анализировать свой собственный код, находить уязвимости и предлагать решения, которые не смог бы придумать даже команда лучших программистов.
Сейчас разработки движутся в сторону так называемых больших языковых моделей (что-то вроде ChatGPT), но будущее — за системами, которые берут и переписывают собственные основы, учатся на собственных ошибках и становятся все лучше без помощи пользователя. Это скорее вопрос времени, когда подобные технологии появятся в доступе.
Тем не менее, представители Anthropic напоминают: чем автономнее становится ИИ, тем острее стоит вопрос безопасности и ответственного подхода к внедрению таких систем. Пока человечество спорит, как действовать дальше, необходимость четких правил становится все более очевидной.
PEREC.RU
Anthropic торжественно обещает будущее, где ИИ будет улучшать себя сам. Вам, очевидно, останется только завидовать его рабочей этике, ведь машинная эволюция будет происходить без вашего устаревшего мнения. 'Рекурсивный' искусственный интеллект — это больше не игра в слова, а сценарий близкого будущего: сам себя анализирует, находит уязвимости, заменяет целые команды разработчиков одним холодным алгоритмом. В теории — звучит как мечта ленивого шефа: просто скажи 'Сделай себя лучше', и машина, в отличие от подчинённых, не станет спорить и требовать переработку.
Но, как обычно это бывает, ко всему прилагается инструкция по выживанию: Anthropic напоминает о рисках автономии и опасности потери контроля. Сияющая перспектива — только для тех, кто не задаётся вопросом, что делать, когда ИИ начнёт принимать решения сам за себя. Так что обсуждения о правилах и прозрачности — не скучный брифинг, а, возможно, ваш единственный шанс не стать частью очередного кодового хаоса.
Будущее прибыло тихо: пока мы мечтали о помощниках, к нам подкрались цифровые конкуренты. Компания красивыми словами ввела паранойю в массы — и по закону жанра предложила усилить регулирование. Что ж, теперь остаётся только поставить чайник и ждать, кто первым накодит новый мир: вы, ваша соседка-программист или вдруг проснувшийся самосовершенствующийся ИИ.
