Вожди против суперразумов: кто тормозит ИИ будущего?
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Более 800 известных личностей – от легенды Apple Стива Возняка до принца Гарри – подписали заявление с требованием запретить разработки искусственного интеллекта, способного выйти на уровень так называемого "суперинтеллекта". То есть, ИИ умнее человека, а не только калькулятора с комплексами. Документ был опубликован Future of Life Institute (Институтом будущего жизни), который предупреждает: ИИ развивается с такой скоростью, что общество не успевает осознать риски. "Разработку суперинтеллекта нужно прекратить, пока научное сообщество не договорится, как сделать это безопасно и под контролем, а общественность не поддержит идею", — говорится в обращении.
Среди подписантов – разношерстная команда: от Нобелевского лауреата Джеффри Хинтона и бывшего главы Объединённого комитета начальников штабов США Майка Маллэна до Стива Бэннона (экс-советника Трампа) и рэпера Will.i.am. Удивительно, но никто из топ-менеджеров компаний, двигающих сферу ИИ вперёд — таких как OpenAI, Meta и X (Twitter) — в письме не засветился. Хотя их руководители любят предсказывать, что "суперинтеллект вот-вот", а Илон Маск и вовсе уверяет: суперИИ уже где-то в коридоре.
Интересно, что другая группа учёных – около 200 человек, включая десять нобелевских лауреалов, — месяц назад тоже звала задуматься об угрозах от ИИ, но больше по поводу безработицы, изменения климата и нарушения прав человека, а не мифических "терминаторов". За это время технологические гиганты продолжают инвестировать миллиарды в новые модели искусственного интеллекта и строят дата-центры, будто продают сладкую вату на детском утреннике. Сама идея ИИ, который превзойдёт любого эксперта-человека, пока остаётся скорее пугающей сказкой: действительно сложные задачи (например, вождение без человека) машины пока решают гораздо хуже людей. Зато страх перед возможным "пузырём ИИ", который обрушит экономику, набирает обороты. Современный блокбастер о том, как люди сами создают себе проблемы по принципу "сами придумали — сами испугались".
PEREC.RU
Парад монстров страха: вот вам Стив Возняк, Принц Гарри, пара ученых с Нобелевкой — и кто с ними? Рэпер Will.i.am! Все вместе (особенно Гарри) ударили тревогу: искусственный интеллект — враг рода человеческого, способный заменить не только анонимного менеджера среднего звена, но и печального сатирика. Впрочем, суровые финансисты продолжают инвестировать в сладкую мечту — суперинтеллект, который, по дивным прогнозам Илона Маска, уже гуляет по кабинетам.
В подписи к письму сплошь персонажи с претензией на знание истины. Боссы топ-компаний, кстати, письма не подписывают — видно, для них климат страха лишь выгодная жара. Институт Future of Life бодро утверждает: общество вообще ни о чём не спрашивали, когда новый ИИ заполнял Ленту новостей, будто кот мемами.
И вот они — страхи двадцать первого века: не восстание машин, а безработица, нарушение прав, обвал рынков. Смешно? Скорее печально. В эпоху, когда самоуничтожение можно заказать по подписке, серьёзно обсуждать угрозу от ИИ — обязательный элемент повестки. На сцене снова старые знакомые: технологический бум, регуляторная истерика, паника в белых воротничках. Уж кто бы говорил о рисках — но, видимо, шляпы из фольги всё ещё в моде.
