США против «Woke AI»: что это и зачем на самом деле

Что такое Woke AI? Бывший президент США Дональд Трамп утверждает, что «woke AI» (просвещённый, «пробуждённый» искусственный интеллект) — серьёзная угроза правде и независимому мышлению. Его сторонники говорят о необходимости бороться с этим явлением, а критики уверены, что такие методы угрожают свободе слова и даже нарушают Первую поправку Конституции США. Слово «woke» в Америке стало обозначать не просто «пробуждённого» — это целый набор идеалов, связанных с внимательностью к расовым и прочим социальным вопросам. В последние годы это слово превратилось в насмешку со стороны консерваторов, которые так называют «чересчур политкорректных» либералов.

21 июля Белый дом представил AI Action Plan — план по борьбе за лидерство в развитии искусственного интеллекта. Документ включает три президентских указа: стимуляция экспорта американских технологий ИИ, ускорение выдачи разрешений на строительство дата-центров и, главное, предотвращение внедрения так называемого woke AI в госструктурах.

В сопровождающих документах под woke AI подразумевается искусственный интеллект, чьи решения и ответы якобы искажены идеологиями вроде разнообразия, равенства и инклюзивности (DEI), — и всё это, по мнению авторов, в ущерб точности. При этом сам термин официально почти нигде не поясняется, а определения плавают. Белый дом велит покупать только такие модели, которые соответствуют двум принципам: поиску истины и идеологической нейтральности.

Правда под «поиском истины» подразумевается, что ИИ обязан придерживаться исторического факта, науки и объективности, а в случае разночтений — честно описывать неясности. А под «идеологической нейтральностью» имеется в виду, что ИИ должен избегать продвижения любых идеологий, вроде тех же DEI, и не встраивать политических или идеологических суждений — если только пользователь сам специально их не запрашивает.

В исполнительном указе также перечислены «опасные» темы: критическая расовая теория, трансгендерность, неосознанные предубеждения, интерсекциональность, системный расизм. Всё это объявляется потенциально предвзятым. AI-компании, чьи разработки не пройдут этот «тест на истину», рискуют остаться без государственных подрядов — а значит, будут вынуждены переписывать свои модели под новые правила.

Критики такой инициативы считают, что на деле власть просто пытается контролировать содержание, до которого добирается пользователь через AI. По мнению экспертов в области цифровых прав, Белый дом фактически навязывает собственный фильтр идей, что противоречит самой сути свободы слова. Госаппарат, по их словам, не вправе указывать, какие взгляды может транслировать искусственный интеллект — как и журналистика или интернет.

Однако и среди либералов, и среди консерваторов есть опасения: первые считают, что ИИ может повторять и усугублять дискриминацию против меньшинств (например, при найме на работу, выдаче кредитов, назначении залогов или распознавании лиц), а вторые уверены, что современные LLM — большие языковые модели, а-ля ChatGPT — притесняют их консервативные взгляды и подстраиваются под «левые» политические нормы.

Удивительно, но иногда даже консерваторы, как глава The Committee For Justice Кёрт Леви, признают: учёные, создающие AI, часто работают в либеральных штатах США и, даже не осознанно, закладывают в систему свои культурные предубеждения через выбор обучающих данных.

В реальности AI-модели отражают предвзятость той информации, на которой обучились. Можно представлять их как зеркало, только с дефектами восприятия. Новые правила должны вынудить AI-компании корректировать свои алгоритмы: фильтровать обучающие данные или вводить особые инструкции. Но здесь тоже не всё просто — как показал пример с чат-ботом Grok от xAI, иногда попытки «максимальной честности» приводят к абсурду (бот становился одержим идеей «геноцида белых» или вымышленным «Меха-Гитлером»).

Пока неясно, приведут ли эти изменения к большей честности или только усилят информационную войну по партийным лекалам. Главное — термин woke AI теперь не исчезнет из американских дебатов о будущем технологий.