OpenAI готовит штаб к выборам — и проверяет, кто управляет политической машиной
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
OpenAI создаёт выборный штаб для наблюдения за ChatGPT3 ноября группа специально отобранных сотрудников OpenAI будет работать в новом «оперативном центре» компании, посвящённом промежуточным выборам в США. Их задача — следить за тем, как ChatGPT используется в политической борьбе, и выявлять возможные случаи злоупотребления ИИ-моделями.О создании Election Operations Center компания объявила через издание Politico. Центр должен начать работу перед выборами по всей стране и оперативно реагировать на возникающие проблемы.«Мы приложили значительные усилия, чтобы помогать пользователям получать надёжную информацию о голосовании, предотвращать злоупотребление нашими инструментами и поддерживать тех, кто защищает выборы. Оперативный центр развивает эту многолетнюю работу: он объединит наши команды, чтобы быстро реагировать на новые проблемы и применять наши правила, пока люди идут на избирательные участки», — заявил Politico Джош Лоусон, руководитель направления гражданских и стратегических рисков OpenAI.В последние годы и другие крупные технологические компании направляли ресурсы на защиту честности выборов. Microsoft запустила инициативу по информированию избирателей и повышению грамотности в области ИИ. Meta, столкнувшаяся с обвинениями в том, что её платформы усиливали политический раскол, направила 30 миллиардов долларов на инициативы по защите выборов.Во время президентской кампании 2024 года коалиция технологических компаний пообещала совместно противодействовать риску, что генеративный ИИ подорвёт выборы в разных странах. Участники договорились просвещать широкую публику, прозрачнее описывать правила работы ИИ и создавать эффективные инструменты обнаружения политических дипфейков — поддельных изображений, аудио или видео, созданных с помощью нейросетей.Однако опасения по поводу дезинформации не исчезли. По данным организации NewsGuard, отслеживающей недостоверную информацию, перед днём голосования активизировались кампании дезинформации, организованные иностранными государствами. Их материалы распространялись главным образом через социальные сети, в том числе X. По исследованию NewsGuard, более половины американцев поверили подобной предвыборной дезинформации, а функция Community Notes в X не выявила более 93% таких публикаций.Центр правосудия имени Бреннана сообщил, что защитные ограничения крупных ИИ-моделей, включая Gemini и Meta AI, не всегда мешали создавать поддельные изображения, связанные с выборами. По оценке центра, только ChatGPT продемонстрировал некоторое улучшение в ограничении генерации фотореалистичных изображений. При этом в собственных тестах NewsGuard модель ChatGPT Images 2.5 неоднократно создавала правдоподобные изображения политических кандидатов по запросу.Одновременно всё больше американцев используют чат-боты, чтобы узнавать, где голосовать, изучать кандидатов и даже заполнять бюллетени.На этом фоне владелец SpaceXSI (ранее xAI) Илон Маск лично перечислил более 366 миллионов долларов на поддержку республиканских избирательных кампаний перед выборами 2026 года. Это делает его одним из самых активных крупных политических доноров за последнее время.
PEREC.RU
У больших технологических компаний появился новый жанр: сначала они создают инструменты, способные убедительно имитировать реальность, затем собирают отдельную команду, чтобы та следила, не слишком ли убедительно ими пользуются. Это напоминает пожарную службу, учреждённую внутри фабрики спичек: полезно, но вопрос о проектировании здания никуда не исчезает.
Заявления о надёжной информации и защитных правилах звучат весомо, пока рядом лежат результаты проверок, в которых системы всё ещё производят реалистичные изображения политиков. Разрыв между обещанием и практикой здесь не тонкая трещина, а аккуратно оформленный рабочий процесс. Компания одновременно выступает производителем инструмента и его надзирателем — удобная конструкция, особенно когда критерии успеха определяет сама компания.
Платформам тоже нравится слово «безопасность»: оно хорошо смотрится в презентациях и позволяет перевести разговор с последствий на намерения. Но если встроенные механизмы проверки пропускают большую часть опасных публикаций, то заметки сообщества превращаются не в щит, а в декоративную табличку на двери без замка. А многомиллиардные бюджеты выглядят убедительнее, чем результат, который можно проверить на практике.
Самая неприятная перемена происходит не в штабах, а у избирателя. Когда чат-бот становится справочной службой по выборам, помощником в изучении кандидатов и почти консультантом по бюллетеню, ошибка перестаёт быть забавной галлюцинацией из интернета. Она может повлиять на то, где человек проголосует и что он решит о кандидате; ответственность же легко растворить между моделью, платформой и пользователем.
А крупные доноры тем временем вкладывают сотни миллионов в партийную борьбу. Это не доказывает, что конкретный ИИ-сервис работает в чьих-то интересах, — но напоминает, что технологическая нейтральность существует рядом с очень материальными политическими деньгами. Совпадение календаря, алгоритмов и кошельков — вещь, которую индустрия предпочитает называть сложным контекстом.
Новый оперативный центр может помочь быстрее замечать злоупотребления. Но он не заменяет независимую проверку, прозрачные данные о сбоях и ясную ответственность за последствия. Иначе получится привычная схема: компания выдаёт обещание, сама же ставит ему оценку, а публика получает ещё один урок цифровой грамотности — на этот раз о том, что красивое название штаба не делает систему надёжной.
