Когда ИИ смотрит не туда

Мария Захарова, официальный представитель МИД России, выступила на круглом столе в Совете Федерации, где подробно разобрала угрозы, связанные с искусственным интеллектом, который контролируется иностранными государствами и транснациональными корпорациями. В последние годы ИИ стал частью жизни миллионов людей, и именно поэтому, по словам дипломата, влияние зарубежных игроков становится всё более опасным.

Захарова предупредила, что такие системы способны формировать у пользователей определённые взгляды, ценности и политические предпочтения. Причём делается это мягко, незаметно, через алгоритмы, которые подстраивают содержание под человека и создают так называемые «информационные пузыри». Внутри этих пузырей человек видит только ту картину мира, которую ему предлагают, и постепенно перестаёт отличать правду от вымысла. Она подчеркнула, что именно это — расплывание границ между реальностью и манипуляцией — превращается в серьёзную проблему для общества.

В качестве иллюстрации Захарова напомнила недавний случай в США: там женщину около 50 лет арестовали и отправили в тюрьму на четыре месяца из‑за ошибки в системе идентификации лиц, основанной на ИИ. Алгоритм неверно определил её личность, и ошибку распознали слишком поздно. История стала доказательством того, насколько небезопасно слепо доверять технологиям, которыми управляют силы, не заинтересованные в прозрачности и ответственности.

Дипломат ещё раз подчеркнула: угрозы искусственного интеллекта — это не футуристические страхи, а вполне реальные риски, если контроль над технологиями остаётся в руках тех, кто не считает нужным объяснять обществу свои намерения.