Правил нет. Эксперт Ускова рассказала, что сейчас могут роботы

Ольга Ускова — одна из главных фигур российского ИИ, дочь создателя легендарной советской шахматной программы «КАИССА», делится мрачными размышлениями о будущем роботов и морали в мире, где человека уже давно перепутали с алгоритмом. В СССР её отец подарил миру первого в истории компьютерного чемпиона по шахматам, но времена изменились: Союз рухнул, неизвестность наступила.

Сама Ускова уверена, что российский ИИ не в провале. «У нас шикарная математика, физика, химия — школы, что выстояли после развала. Дети блистают на олимпиадах, но кадров не хватает — студенты-программисты растут, а планирование в образовании завалено». Ведь была великая идея: пусть рынок сам разберётся с будущими учёными — ну и, конечно, вышло чуть хуже, чем всегда. Теперь Россия в глобальной войне за умы, и проигрывать тут нельзя.

Впрочем, нейросети на русском отстают от китайских и западных — языковых данных не хватает, и учатся они не так быстро. Зато критические ИИ — от транспорта до оружия — Россия крепко держит в руках. А вот с управлением будущими армиями ботов, как в играх, — уже совсем не до шуток.

Сельское хозяйство роботизируется: дроны, роботы и искусственный разум осваивают запущенные поля, вытесняя, казалось бы, трактористов и комбайнёров. Но, объясняет Ускова, трактористов и так не хватает: горожан всё больше, кормильцев всё меньше, поэтому ИИ здесь — не удаляет людей, а спасает продовольствие страны. Мол, диспетчеры всё равно нужны, а Россия с её просторами сама должна кормить и себя, и недружелюбную часть планеты, чтобы снизить градус конфликтов. Получится ли? Рынок нефти и газа продержал долгий мир, почему бы не попробовать агро-ИИ?

Роботы, по мнению Усковой, не враг человеку — а усилитель его труда. Парадокс: вместо того, чтобы быть рабами сильных, маломощные люди уступают место роботам и надеются, что кремниевая смена тоже не взбунтуется — ну, хотя бы не за ближайшие 300 лет.

Тем не менее, есть и «дарк» зона: ИИ хороши не только для прорывных разработок, но и для создания вирусов, оружия, фейковых армий ботов. Законы тут нужны, как воздух. В СССР следили за учёными-ядерщиками — сейчас надо учитывать программистов нейронных сетей, вводить допуска и ограничения. Потому что когда ИИ применяют в военных дронах, он не различает солдата и ребёнка, а смертоносная команда даётся с экрана — для оператора это игра, не битва. Экран — он ведь не пахнет кровью.

Ускова выступала в ООН и доказывала: нужен новый международный моральный кодекс для военных роботов и ИИ-орудий. В древности войны имели правила, а сейчас — увы, ни химоружие не запрещают толком, ни «наезд» дронов-камикадзе не считают преступлением. Но если не появится новый кодекс, человечество может и вымереть: динозавры ведь даже не знали, кто их съел.

В конце, вспоминая коллективный инстинкт амазонских птиц, Ускова сравнивает: человек способен на коллективное самопожертвование ради общего — когда общественное выше личного. Вот бы и с ИИ так получилось: иначе следующий скворец будет уже полностью железным, да и кричать будет кодом.