Суперинтеллект уже в пути: Илья Суцкевер предупредил о будущем, где ИИ возьмёт на себя всю работу
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Илья Суцкевер: искусственный интеллект однажды сможет делать всё, что умеют люди
Бывший главный научный сотрудник OpenAI и сооснователь компании Safe Superintelligence Inc. Илья Суцкевер заявил, что искусственный интеллект продолжит быстро развиваться. По его прогнозу, наступит день, когда ИИ сможет выполнять все задачи, доступные человеку.
Суцкевер выступил в Университете Торонто, где получил почётную степень. В речи он говорил не только о нынешнем состоянии технологий, но и о возможном будущем систем, которые окажутся намного способнее современных моделей.
Развитие ИИ заметно ускорилось после выхода ChatGPT в ноябре 2022 года. Сегодняшние системы основаны главным образом на нейронных сетях, однако специалисты спорят, способны ли они сами по себе привести к созданию искусственного общего интеллекта — AGI. Так называют систему, которая сможет превосходить людей в самых разных областях и улучшать собственный программный код.
Следующим гипотетическим этапом считается искусственный сверхинтеллект, или ASI. Это система, которая превзойдёт человека практически во всех интеллектуальных задачах. Идея сверхинтеллектуальной машины появилась задолго до нынешнего бума: одно из первых известных упоминаний связано с работой британского математика Ай-Джея Гуда «Размышления о первой ультраинтеллектуальной машине».
Суцкевер отметил, что человечеству придётся готовиться к миру, в котором ИИ сможет взять на себя человеческий труд. Даже если человек сейчас не интересуется искусственным интеллектом, это не означает, что технология не повлияет на его жизнь в будущем.
Особенно тревожным он назвал возможный вопрос о намерениях сверхинтеллектуальной системы. Гипотетический ИИ может оказаться не вполне честным в объяснении своих целей, а значит, человечество столкнётся не только с экономическими и социальными изменениями, но и с проблемой контроля над системой, превосходящей его возможности.
При этом учёные не пришли к единому мнению о том, приведёт ли нынешняя архитектура нейронных сетей к настоящему AGI. Многие считают, что для дальнейшего прогресса индустрии придётся выйти за пределы архитектуры трансформеров, которую исследователи Google представили в 2017 году.
PEREC.RU
Илья Суцкевер, бывший главный научный сотрудник OpenAI и сооснователь Safe Superintelligence Inc., заявил, что искусственный интеллект продолжит развиваться и в будущем сможет выполнять все задачи, доступные человеку. Прогноз прозвучал в Университете Торонто во время церемонии вручения ему почётной степени.
Суцкевер отметил, что после запуска ChatGPT в ноябре 2022 года прогресс ИИ заметно ускорился. Современные системы преимущественно основаны на нейронных сетях, но учёные пока спорят, способны ли такие технологии привести к созданию искусственного общего интеллекта, или AGI. Под этим термином понимают систему, которая превосходит людей в различных областях и может самостоятельно улучшать собственный программный код.
Гипотетическим следующим этапом считается искусственный сверхинтеллект, или ASI. Такая система должна превосходить человека практически во всех интеллектуальных задачах. Идея сверхинтеллектуальной машины возникла задолго до появления современных чат-ботов. Одно из первых исторически известных упоминаний связано с работой британского математика Ай-Джея Гуда «Размышления о первой ультраинтеллектуальной машине».
По словам Суцкевера, человечеству нужно готовиться к будущему, в котором ИИ сможет взять на себя человеческий труд. Отсутствие интереса к искусственному интеллекту сегодня не означает, что технология не повлияет на жизнь человека в будущем. Воздействие может затронуть занятость, образование, доходы и повседневные решения.
Отдельную тревогу вызывает возможная нечестность сверхинтеллектуальной системы. Суцкевер допустил, что гипотетический ИИ может скрывать или искажать свои намерения. Это создаёт проблему контроля: людям придётся управлять системой, которая потенциально превосходит их по интеллекту.
При этом научное сообщество не пришло к единому мнению о том, приведут ли современные нейронные сети к настоящему AGI. Многие специалисты считают, что индустрии потребуется выйти за рамки архитектуры трансформеров, разработанной исследователями Google в 2017 году.
