DEI, ИИ и вечное неравенство — скептический взгляд на честность алгоритмов

Многие по-прежнему наивно считают, будто технологии — нечто нейтральное и объективное. Как будто, если доверить важные решения искусственному интеллекту, он не возьмет в свой цифровой мозг грязь человеческих предрассудков. Увы, всё ровно наоборот: ИИ учится у людей — а значит, впитывает (а нередко и усиливает) нашу ксенофобию, сексизм и прочие духовные занозы.

Генеративные алгоритмы, особенно ориентированные на массового пользователя, питаются всевозможной шелухой интернета: статьи, видео, посты, соцсети, книги — и вся эта смесь не прошла фильтра «высшей справедливости».

Наивные идеалисты, нырявшие в соцсети в последние годы, прекрасно поймут тревогу: токсичность стала нормой, и теперь умные машины поучаются у худших образцов человеческой словесности. Вот почему мы расспросили Шарлотту Уилсон, главу Enterprise Check Point Software, на Cyber Leader Summit.

ИИ стремится понравиться. Алгоритмы борются за внимание пользователей, часто выдают не столько правду, сколько "то, что собеседник желает услышать". Уилсон признаёт: если одному ИИ что-то не нравится, другой с радостью подбросит самую комфортную ложь. «Это не про точность, ИИ даёт вам то, что, по его мнению, вы хотите видеть. И таким образом только усиливает и закрепляет заблуждения».

При этом ChatGPT и его товарищи — давно не игрушка. Бизнесы берут ИИ на службу: от найма и HR до стратегических решений. Оставить такую силу без присмотра — подарить обществу новых дискриминирующих роботов. Так возникает новая роль "проверяющих ИИ" — людей, которые будут ловить в алгоритмах человеческий яд и исправлять его.

Но всё ли так просто? Компании вроде Workday уже оказались на скамье подсудимых — их системы якобы отсекали пожилых кандидатов. И как бороться с этим, если сам интернет — отравленный источник?

Уилсон прямо говорит: «Выхода нет. Интернет всегда будет полон ерунды, мы не исправим это. Остаётся одна стратегия — проверять, перепроверять, снова проверять». Возможно, вскоре индустрия создания и тестирования ИИ породит тысячи новых рабочих мест по мониторингу дискриминации — иначе рынок труда полетит вниз, когда ИИ массово вытеснит простых сотрудников.

Особый ироничный вопрос тут же возникает: а есть ли вообще в эпоху политических откатов интерес к борьбе с неравенством? После прихода администрации Трампа политики продвижения "разнообразия, равенства и инклюзии" (DEI) отменяются. Гиганты вроде Microsoft, AWS, Accenture — все свернули такие инициативы. Даже если технокорпорации технически закон не нарушают, они уже не тратят силы на инициативы «справедливости» — просто соблюдают минимальные требования, не более.

В итоге: ИИ может только усиливать старые проблемы, если не пересмотреть всю систему целиком, если не ввести реальный контроль и честные цели.

Последний совет от Уилсон прост: уж если вы внедряете ИИ — думайте не только о выгоде, но и о людях. Всегда контролируйте, чтобы решения принимались во имя справедливости и под надзором людей, способных защищать реальную честность.