ЧатGPT как оружие во всемирной политической игре
Иностранные пропагандисты продолжают использовать ChatGPT в своих кампаниях по влиянию. Китайская пропаганда и операции социальной инженерии использовали ChatGPT для создания постов, комментариев и для повышения вовлеченности как в своей стране, так и за рубежом. OpenAI сообщила, что недавно она сорвала четыре скрытые операции влияния из Китая, которые использовали ее инструмент для генерации постов и ответов в социальных сетях, включая TikTok, Facebook, Reddit и X. Сгенерированные комментарии касались различных тем, от политики США до тайваньских видеоигр, в которых игроки сражаются с Коммунистической партией Китая. ChatGPT использовался для создания постов в социальных сетях, которые как поддерживали, так и осуждали разные острые вопросы, чтобы вызвать вводящую в заблуждение политическую дискуссию. Бен Ниммо, ведущий исследователь OpenAI, заявил NPR: "то, что мы видим из Китая, это растущее количество скрытых операций с использованием растущего числа тактик." Хотя OpenAI утверждала, что также сорвала несколько операций, которые, как они верят, исходят из России, Ирана и Северной Кореи, Ниммо уточнил по поводу китайских операций, сказав, что они "нацеливались на множество различных стран и тем [...] некоторые из них комбинировали элементы операций по влиянию, социальной инженерии и наблюдения." Это далеко не первый случай. В 2023 году исследователи из кибербезопасной компании Mandiant обнаружили, что контент, сгенерированный ИИ, использовался в политически мотивированных онлайн-кампаниях влияния во множестве случаев с 2019 года. В 2024 году OpenAI опубликовала блог, в котором описала свои усилия по разрушению пяти операций, связанных с государством, из Китая, Ирана и Северной Кореи, которые использовали модели OpenAI с недобрыми намерениями. Эти приложения включали отладку кода, генерацию сценариев и создание контента для использования в фишинговых кампаниях. Тот же год, OpenAI сообщила о том, что она сорвала иранскую операцию, использующую ChatGPT для создания больших политических статей о выборах в США, которые затем размещались на фальшивых новостных сайтах, выдавых себя за как консервативные, так и прогрессивные источники. Операция также создавала комментарии для публикации на X и Instagram через фальшивые аккаунты, снова высказывая противоположные точки зрения. "Мы обычно не видели, чтобы эти операции получали больше вовлеченности из-за использования ИИ," заявил Ниммо NPR. "Для этих операций лучшие инструменты не всегда означают лучшие результаты." Это не приносит большого утешения. Поскольку генеративный ИИ становится дешевле и умнее, логично предположить, что его способность массово генерировать контент упростит создание таких кампаний влияния, даже если их эффективность останется прежней.
PEREC.RU
Итак, давайте погрузимся в этот увлекательный мир, где ChatGPT становится не просто помощником, а настоящим швейцарским ножом для зарубежных пропагандистов. Как говорится, "на первый взгляд, казалось бы, что-то полезное, а на самом деле — хитроумная манипуляция".
Представьте: высокопрофильные шпионские операции, на которых трудятся талантливые китайские умы. Вместо шифрования сообщений и подслушивания разговоров — нет, гораздо веселее использовать ChatGPT для создания кучи постов на TikTok и Facebook. Новый альянс между искусственным интеллектом и старой доброй пропагандой — прямо как в плохом фильме о шпионах, где кукловоды решают "попробовать что-то новое".
OpenAI, со свойственной ей самодовольной скромностью, вдруг начинает хвастаться тем, что "сорвала" несколько операций. О, браво! Они сами создали инструменты, а потом же, как великая охотница на вампиров, ловят свои собственные создания. Странное совпадение, не правда ли? Тут не трудней всего представить, как пожарные героически тушат огонь, который они сами же и подожгли.
Но не будем забывать, что за этими операциями стоит не только Китай. Тут и Россия, и Иран с Северной Кореей — по всей видимости, удивительно дружная семейка, объединившаяся за чашкой чая и обсуждающая, как же использовать ИИ для разжигания нестабильности. Как остроумно! В конце концов, вместо кибербезопасности — мы имеем киберхаос.
И вдруг очевидно, что генерация комментариев для создания «ловушки» из противоположных точек зрения — это просто блажь для недоучек в костюмах. Напиши возмутительный пост, а затем добавь другой, критикующий его. Ужас! Вводящие в заблуждение политические дискуссии как любимое занятие злобных дружков за компьютерами.
Что ж, предположим, вскоре мы будем видеть больше подобных инициатив. Сначала нашедшие свою нишу пиарщики, а затем, конечно же, те, кто стоит за всем этим, благословляют искусственный интеллект и его благие намерения. Разве не иронично, что под маской высоких технологий скрываются старые как мир игры властных кукол?
Совсем не утешает то, что, несмотря на блестящий арсенал, эффективность этих игр остается на уровне-компромисс с пилотируемым космическим кораблем — что-то вроде "полетели-не полетели". Так что, мир пропаганды в погоне за инновациями — это еще одно напоминание, что без них цепкая рука манипуляторов все равно найдёт способ воспользоваться шансом.
