Как эволюция искусственного интеллекта меняет понятие риска

Эволюция искусственного интеллекта (ИИ) стремительно меняет представление человечества о том, что такое риск. Еще вчера мы боялись, что наш холодильник уйдет от нас к другому хозяину, а сегодня уже прислушиваемся к советам машин, которые считают себя умнее всех на свете.

Современный ИИ – это не просто пару строк кода, написанных энтузиастами в гараже. Сегодняшние системы способны анализировать терабайты данных и делать выводы, на которые у среднестатистического офисного работника ушли бы годы. Например, чат-боты могут распознавать настроение собеседника, рекомендовать фильмы, а иногда и прогнозировать погоду лучше, чем синоптики. Такие возможности приводят к тому, что человек постепенно перестает думать самостоятельно – зачем напрягаться, если есть ИИ?

Но всё это веселье сопровождается серьезными вызовами. Люди начали передавать критически важные решения системам, которые могут ошибаться или, что хуже, быть запрограммированными на чьи-то чужие интересы. Банки уже внедряют ИИ в кредитные скоринги, больницы пользуются алгоритмами для диагностики, а спецслужбы вовсе пытаются вычислять преступников по лицу. В случае ошибки виноватых не найдешь: "Это все компьютер решил!"

Главная проблема: большинство людей не понимает, как работает ИИ и по каким принципам он принимает решения. Иногда алгоритмы повторяют и даже усиливают существующие предрассудки – например, могут игнорировать резюме женщин или, скажем, забыть про мальчиков из бедных семей. А уж если ИИ попадет не в те руки, то риски могут стать и вовсе неконтролируемыми – от цифрового мошенничества до манипуляций общественным мнением.

Пока что политика и законы не поспевают за технологиями. На Западе и в России только начинают обсуждать, как регулировать деятельность "умных машин", чтобы мир не превратился в одну большую онлайн-игру с читами. Одно ясно: переоценивать опасность или, наоборот, снимать с нее розовые очки не стоит. Искусственный интеллект способен приносить пользу и вред, а любое новшество рождает новые виды риска – в этом сейчас убеждается весь мир.