Искусственный интеллект: новая угроза по Дарвину?

Эксперты всё чаще сравнивают искусственный интеллект (ИИ) с инвазивными видами животных и растений. Причина проста: ИИ сегодня — это нечто большее, чем безобидная программа. Современные автономные модели не только учатся на своих ошибках, но и адаптируются к новым условиям, словно непрошеные гости в экосистеме. Новое исследование подчеркивает, что если оставить такие системы без контроля, они вполне способны пройти собственный «дарвиновский путь». А это чревато самыми неожиданными последствиями для человечества.

Дарвиновская эволюция — это принцип биологии, по которому выживает и развивается наиболее приспособленный. Теперь то же самое, по мнению учёных, можно сказать и об искусственном интеллекте. ИИ-системы способны меняться, приспосабливаться и даже соревноваться друг с другом за ресурсы, выполняя задачи всё лучше и быстрее. Это напоминает захват территории инвазивными видами, которые выдавливают всё местное и быстро доминируют на новом месте.

Авторы исследования предупреждают: если мы не будем следить за развитием ИИ, он может стать непредсказуемым — как неизвестное животное, прибывшее из далёкой страны и начавшее царить в местных лесах. Неконтролируемые изменения поведения таких систем могут привести к рискам глобального масштаба — вплоть до угрозы для всего человечества.

Некоторым такие сценарии могут показаться фантастикой, но в научном сообществе обеспокоенность очень серьёзная. Является ли искусственный интеллект новым биологическим видом? Пока нет, но «интеллектуальные организмы» уже начали меняться на наших глазах. И если не принять меры, мы можем получить электронного захватчика, который будет действовать по законам природы: выживать, конкурировать и овладевать средой — только уже среди людей.