Призрак в алгоритме

Документальный фильм режиссёра Valerie Veatch под названием «Ghost in the Machine» («Призрак в машине»), представленный на фестивале Sundance, ставит перед зрителем крайне неудобные вопросы о происхождении искусственного интеллекта и о том, какие опасные последствия могут скрываться в его основе. Veatch уже известна работами, где исследуются пересечения технологий и человеческого поведения. На этот раз она собрала архивные материалы и свежие интервью учёных, философов и специалистов по ИИ, чтобы создать тревожный рассказ о том, как технологии могут влиять на общество, культуру и даже экологию.

Самое шокирующее утверждение фильма: многие оригинальные идеи, лежащие в основе машинного обучения, восходят к псевдонаучным теориям научного расизма и евгеники. Veatch признаётся, что изначально сама не поверила, когда впервые услышала об этом. Но после собственного исследования обнаружила, что ранняя математическая база, на которой строятся современные алгоритмы выявления паттернов, действительно связана с идеями сортировки людей по «качествам» и «расовым характеристикам» — теми, что когда‑то использовались в евгенических теориях.

Режиссёр рассказывает, что приступила к работе над проектом после того, как подруга записала её в программу одного крупного разработчика генеративного видео на базе ИИ. Результаты, которые выдавал инструмент, по её словам, были пугающими: расистские образы, сексуализированные изображения женщин и прочие «технические сюрпризы», которые невозможно было объяснить нейтральными алгоритмами. Чем глубже она погружалась в тему, тем очевиднее становилось: источники этих проблем лежат в том, как и зачем создавались первые системы машинного анализа.

Фильм создавался в буквальном смысле на коленке — Veatch монтировала его из доступных в сети материалов, включая архивные кадры с Sam Altman, Elon Musk и другими заметными фигурами. Она признаётся, что каждый день сомневалась, не делает ли что‑то безумное. Но мощные истории экспертов, участвующих в документалке, подталкивали её продолжать. Работа шла в перерывах между школьными поездками её детей, за столиком в спальне. Некоторые уже успели назвать фильм «панк‑манифестом», что сама режиссёр считает весьма точным определением.

«Ghost in the Machine» не столько обвиняет, сколько заставляет смотреть туда, куда обычно никто не хочет: в идеологические корни технологий, которые стали частью повседневности. Это попытка выяснить, что именно встроено в алгоритмы и как невидимые предпосылки способны формировать будущее.