Планы Трампа по ИИ убьют интеллект и человечность – и этого никто не хочет

В мировых гонках за лидерство в искусственном интеллекте США решили резко рвануть… но прямо в яму. Новые указы экс-президента Дональда Трампа запрещают, чтобы американские ИИ-модели учитывали хоть какие-то принципы разнообразия, равноправия и инклюзивности. В списке под запретом — такие понятия, как "неосознанная предвзятость", "пересечение социальных факторов" (intersectionality) и "системный расизм". Иными словами, Трамп хочет, чтобы американские ИИ глядели на мир сквозь шоры – история, с её сложными и часто болезненными темами, должна для них перестать существовать.

Популярные чат-боты, такие как ChatGPT, Gemini, Claude AI или Perplexity, обучены на огромном объёме интернет-данных, и даже при всех ограничениях, они всё равно отражают взгляды тех, кто их создаёт. Например, в 2020 году около 71% разработчиков ИИ были мужчинами, а половина — белыми. В ответ на критику и появление тренда на разнообразие и инклюзию (DEI), крупные ИТ-компании США начали нанимать специалистов с разными взглядами и биографиями, чтобы новые ИИ отражали весь спектр современного общества.

Но Трампу и его администрации это не по душе: в своих указах DEI он называет "разрушительной идеологией". Прямо управлять ИИ девелоперами президент не может, зато может сделать так, чтобы госструктуры больше не заключали крупные контракты с компаниями, которые продвигают "идеологические повестки" вместо абсолютной истины. Причём "истина" тут — отнюдь не вся американская правда, а её часть, удобная для одних и опасно ограниченная для других.

Если эти указы вступят в силу, ИИ в США может начисто забыть, например, про роль рабов в строительстве страны — от Белого дома до Капитолия. Так работает теория критической расовой принадлежности (CRT — Critical Race Theory), которую Трамп и его сторонники активно пытаются запретить в школах и университетах. Сейчас ИИ всё ещё может выдать исчерпывающую справку на тему рабства или проблем предвзятости — именно благодаря тому, что в его данных такая информация есть. ChatGPT, отвечая на вопрос про рабство, приводит примеры, цитаты историков и ссылки на книги, а Gemini также выдаёт подробные разъяснения. ChatGPT даже уточняет: "Это не мои личные взгляды, а результат анализа большого количества научных публикаций".

Именно этот массив разнородных фактов и делает ИИ умнее. Но для Трампа неудобные факты — это проблема, которую надо вычистить. Если подчинить крупных подрядчиков государства — Google, Meta, OpenAI — жестким фильтрам, то вскоре вся американская ИИ-индустрия окажется слепа к системной предвзятости, расизму и реальному положению дел для меньшинств.

Последствия могут быть гораздо серьёзнее, чем кажется. Допустим, кто-то строит экономическую модель на данных ChatGPT, а информация про бедность и дискриминацию исчезла из базы. Модель выдает фальшивку — ошибочные выводы, искажающие реальность. ИИ из других стран, например китайский, уже страдает слепыми пятнами из-за госцензуры, но раньше казалось, что "Сделано в США" — это гарантия более честного и объективного анализа.

Теперь же, если требования администрации будут реализованы, американский искусственный интеллект рискует вырасти послушным, ограниченным и дальше отражать лишь чужие идеалы. И, как саркастически заметил автор статьи, тогда уже останутся ИИ, которые видят реальность сквозь новые — но всё равно чужие — шоры.