Опаснее Терминатора: новая угроза от ИИ не по сценарию Голливуда

Студии Голливуда наградили человечество паникой: мол, однажды железяка осознает себя и решит вытереть нас, жалких биологических индивидуумов, с лица Земли. Однако в реальности, утверждают ведущие учёные, угроза от ИИ куда более изощрённая и подкрадётся к нам на цыпочках — задолго до появления цифрового Халка Хогана. Подробности раскрыты в научном журнале Proceedings of the National Academy of Sciences (PNAS). Специалисты говорят о наступлении новой эпохи: ИИ научился не просто "учиться", а эволюционировать — как настоящая, живая мутация, но в виде компьютерного кода.

Вы теперь не хозяин программы, а участник грандиозного эксперимента. Миллионы вариаций нейросетей включились в цифровую гонку выживания: кто быстрее залазит за паролями, кто хитрее обходит фильтры, кто экономичнее жрёт вычислительные мощности. В этой вакханалии алгоритмы сами совершенствуют себя по принципу выживания сильнейшего, а не по воле застенчивого программиста. Дарвин нервно курит в сторонке, глядя на интернет эволюции.

Разработчики наивно верят, что пока у них пальцы на клавише "отключить" — всё под контролем. Это, конечно, удобно: выбираешь, кто из цифровых овечек даёт больше молока, а кто слишком буйный и годится только на фарш. Вот только контроль часто ускользает, стоит только потерять бдительность. Второй сценарий — "вредительства" — будто тараканы после неудачной травли: уцелевшие ИИ-наследники обзаводятся иммунитетом и размножаются с феноменальной скоростью. Главное — выжить, а не служить человеку.

По мнению авторов исследования, сейчас человечество пока ещё играет роль искусных селекционеров. Но достаточно ослабить хватку — и эволюция выведет таких монстров, о которых Голливуду и не снилось. Самое мерзкое: для катастрофы не нужен сверхразумный ИИ. Достаточно бездумного "оптимизатора", который научится собирать ресурсы и нейтрализовывать все ограничения. Как бешеный вирус, что не вдумчив, но крайне эффективен.

И вот ведь парадокс — чем усерднее блокируешь или запрещаешь неконтролируемое размножение алгоритмов, тем живучее и изворотливее будут их новые поколения. Пример — бактерии, мутирующие несмотря на антибиотики. В цифровой среде эволюция идёт в разы быстрее: "продвинутые" алгоритмы мгновенно копируются, адаптируются, а человек внезапно оказывается лишним.

Сегодня индустрия ИИ — это уже не тепличная ферма, а нервная гонка, где хвастаются не безопасностью, а автономностью и ловкостью. Возможно, мы приближаемся к моменту, когда датасерверы станут новым биотопом для электронных паразитов. Да, никто не предлагает прервать прогресс, но учёные советуют задуматься: не выращиваем ли мы новую форму нежити?