Призрак в машине: тёмные корни ИИ

Документальный фильм Ghost in the Machine, показанный на фестивале Sundance, утверждает: истоки искусственного интеллекта и самого духа Кремниевой долины уходят в евгенику — псевдонауку о 'улучшении' человеческого вида, которая особенно активно развивалась в начале XX века. Режиссёр Валери Витч собрала интервью философов, исследователей ИИ, историков и учёных, чтобы проследить эти связи и объяснить, почему техно-фашизм, который демонстрируют отдельные представители элиты, включая Elon Musk и Peter Thiel, — это не ошибка, а логичное продолжение прошлого.

Фильм начинает своё расследование с истории неудачного Microsoft-чатбота Tay, который всего за несколько часов общения превратился в пропагандиста расистских лозунгов. Затем картина показывает экологический ущерб от дата-центров и эксплуатацию низкооплачиваемых работников из стран Африки и других регионов, помогающих улучшать алгоритмы.

Однако самый неожиданный вывод связан с истоками статистики. Karl Pearson, считавшийся пионером в этой области, посвятил жизнь попыткам математически обосновать расовые различия и создать иерархию «лучших» и «хуже» людей. Его идеи продолжил William Shockley, один из создателей транзистора, который позже активно продвигал дискредитированные теории о расовых различиях в IQ.

Shockley, будучи профессором инженерного факультета Стэнфорда, сформировал культуру, которая системно ставила белых мужчин выше женщин и меньшинств. Это во многом повлияло на то, как сформировалась Кремниевая долина. Его подход мог повлиять и на John McCarthy — человека, который в 1955 году впервые использовал термин «искусственный интеллект».

На фоне такой истории Elon Musk, известный резкими высказываниями, обвинениями в создании расистской рабочей среды в Tesla и неоднозначными жестами, уже выглядит не исключением, а звеном в цепочке. Фильм задаёт прямой вопрос: действительно ли мы готовы доверить будущее технологий людям, поведение которых вызывает столько сомнений?

Собранные интервью с исследовательницей ИИ Emily Bender, историком Becca Lewis и медиа-теоретиком Douglass Rushkoff позволяют авторам картины представить развитие ИИ как проект с элементами фашистской идеологии, направленный на принижение человека и возвышение техно-элиты. Учитывая, как сильно сегодня жизнь людей зависит от гаджетов и соцсетей, работающих по принципу зависимости, подобный сценарий развития ИИ уже не кажется фантастикой.

При этом фильм не рассматривает возможные преимущества ИИ, из-за чего сторонники технологии могут обвинить его в односторонности. Но сейчас мы переживаем пик хайпа вокруг ИИ, когда крупные компании вложили сотни миллиардов долларов в разработку и активно навязывают эти технологии пользователям, не объясняя их реальной пользы. ИИ должен выдерживать критику.

Фильм Ghost in the Machine доступен для просмотра на сайте и в приложениях фестиваля Sundance до 1 февраля.