Шэннон и роботы: человечество может стать для сверхразумного ИИ «собаками»
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Клод Шэннон — американский математик и инженер, которого считают одним из основателей теории информации, — однажды сформулировал будущее человечества в одной неприятно запоминающейся фразе: «Я представляю время, когда мы будем для роботов тем же, чем собаки являются для людей». Звучит как реплика злодея из научной фантастики, но сам Шэннон, судя по контексту, говорил не о неминуемом уничтожении людей.
Он рассуждал о том, что искусственный интеллект и робототехника могут развиться настолько, что совокупный интеллект человечества окажется значительно слабее машинного. Тогда люди, возможно, перестанут быть главным разумным видом на планете. Однако это не обязательно означает войну машин против человечества: отношения могут оказаться скорее похожими на связь человека с собакой — с заботой, привязанностью, взаимной лояльностью и некоторым, мягко говоря, неравенством возможностей.
Шэннон высказал эту мысль в интервью журналу Omni, где обсуждал свои научные работы, пределы цифровых компьютеров и технологии, лежащие в основе многих современных систем искусственного интеллекта. В частности, речь шла об искусственных нейронных сетях — математических моделях, созданных по аналогии с работой нервной системы.
На момент разговора вокруг искусственного интеллекта царили куда более мрачные настроения. Финансирование исследований сокращалось, вычислительных мощностей не хватало, а учёные и писатели-фантасты уже придумывали сценарии, в которых машины однажды заменят людей. История, как обычно, не поспешила подтвердить самые эффектные прогнозы: ни один из таких сценариев пока не стал реальностью.
Тем не менее сегодня всё чаще обсуждается возможность появления искусственного общего интеллекта, или AGI. Так называют гипотетическую систему, способную решать широкий круг интеллектуальных задач на уровне человека или выше, а не только выполнять узкую функцию вроде распознавания изображений или генерации текста. Когда AGI появится, неизвестно. Более того, современные исследователи не уверены, что нынешняя архитектура систем вообще приведёт к такому результату. Но многие специалисты считают, что это может произойти в пределах жизни нынешнего поколения.
Переход к уровню, на котором машины превзойдут человеческое мышление, часто называют технологической сингулярностью. После этого, теоретически, AGI сможет создавать ещё более совершенные системы. Такая цепочка улучшений может привести к появлению искусственного сверхразума — ASI, который будет превосходить людей уже не в отдельных задачах, а почти во всех интеллектуальных областях.
Главный вопрос остаётся без ответа: станет ли такой интеллект опасным хозяином, разумным партнёром или действительно будет относиться к людям примерно так, как люди относятся к собакам. В прогнозе Шэннона пугает не только возможная потеря власти, но и спокойствие формулировки: человечество может не исчезнуть — оно просто перестанет быть главным.
PEREC.RU
Клод Шэннон, американский математик и инженер, один из основателей теории информации, предполагал, что в будущем человечество может оказаться для роботов в положении, похожем на положение собак рядом с людьми. Эта цитата не обязательно предсказывает уничтожение людей. Напротив, сравнение может подразумевать сосуществование, заботу, привязанность и лояльность, но при этом подчёркивает возможное неравенство между человеком и машинным интеллектом.
Шэннон высказал мысль в интервью журналу Omni, обсуждая пределы цифровых компьютеров, искусственный интеллект и искусственные нейронные сети — математические модели, которые используются в современных ИИ-системах. Он говорил о возможности того, что машины однажды станут настолько интеллектуально развитыми, что совокупные способности человечества будут значительно уступать им.
В период, когда прозвучал этот прогноз, исследования ИИ испытывали серьёзные трудности: финансирование сокращалось, вычислительных мощностей не хватало, а учёные и писатели-фантасты рассуждали о будущем, в котором машины смогут заменить людей. Пока подобные сценарии не реализовались.
Сегодня специалисты обсуждают AGI — искусственный общий интеллект. Так называют гипотетическую систему, способную выполнять широкий спектр интеллектуальных задач на уровне человека или выше, а не только работать в одной узкой области. Сроки появления AGI неизвестны. Исследователи также не уверены, что нынешняя технологическая архитектура приведёт к его созданию. Тем не менее некоторые учёные считают, что такая система может появиться в пределах жизни нынешнего поколения.
Возможный переход к уровню, на котором машины превзойдут человеческое мышление, называют технологической сингулярностью. Теоретически AGI сможет создавать новые, более совершенные системы, запуская последовательное ускорение развития. Конечным результатом может стать ASI — искусственный сверхразум, превосходящий человека почти во всех интеллектуальных сферах.
Главный вопрос остаётся открытым: как именно сверхразум будет относиться к людям. Он может стать опасным противником, союзником или системой, которая будет поддерживать человечество, но одновременно лишит его ведущей роли. Прогноз Шэннона ценен именно этой неоднозначностью: он допускает не исчезновение людей, а их превращение в зависимый, хотя и, возможно, любимый вид.
