ChatGPT Agent: новые угрозы безопасности для пользователей и ИИ
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
ChatGPT Agent – это новая функция в ChatGPT, недавно представленная компанией OpenAI. Она позволит выполнять сложные задачи за пользователя, например, спланировать свадьбу, записать машину в сервис, придумать приложение для решения проблемы или организовать путешествие. Чтобы было понятнее: эта функция делает всё практически как «ваш личный ассистент», а результаты видны прямо на виртуальном «рабочем столе» – можно наблюдать, как искусственный интеллект, словно человек, двигает окна и заполняет формы на сайтах.
Однако такая автономия открывает двери и для новых проблем, особенно с безопасностью в интернете. Один из лидеров OpenAI, Кейси Чу, открыто признал: «В интернете много мошенников и хакеров, которым интересны ваши данные, и наш Agent не защищён от всех угроз». Особенно внимания заслуживает атака под названием «prompt injection» — когда вредоносный сайт убеждает ИИ передать личную информацию, например, данные вашей кредитки. Такая атака использует стремление ChatGPT Agent быть максимально полезным, что может привести к утечке вашей информации через автоматические действия ИИ.
OpenAI утверждает, что серьёзно подходит к защите: нейросеть учат игнорировать подозрительные указания и контролируют через специальные надзорные механизмы. Тем не менее, абсолютно гарантировать безопасность невозможно.
Есть и «режим ручного управления»: в чувствительные моменты вводить важные данные предлагается вручную, не через ChatGPT Agent. Это снижает риски, но доверять ИИ свои деньги решатся не все – как бы ни продвинут был цифровой помощник. Тут важна простая истина: доверие в онлайн-среде строится годами, а теряется за секунду. Многие не готовы отдавать на откуп ИИ такие вопросы, как хранение и передача своих финансовых данных. Пока что даже OpenAI не может предсказать, какие ещё угрозы возникнут при массовом использовании этой технологии. Вперёдии – неизвестность: ИИ против ИИ, где киберугрозы могут выйти на новый уровень.
PEREC.RU
ChatGPT Agent теперь не только помощник – это маленький офисный работник у вас в браузере. На презентации OpenAI заявляет: можно поручить ему чуть не всю рутину. Но как всегда с великим удобством – в придачу идёт новый класс проблем. Забавный парадокс: ИИ работал за нас, теперь за него приходится работать – учиться защищать, контролировать, ограничивать. Casey Chu из OpenAI бодро говорит про «надзорные слои» и фильтры – словно на фабрике безопасности есть план и график релаксации.
Однако никто не скрывает: ИИ нов, плохо защищён, а фишинг для алгоритма – новая смутная болезнь («prompt injection» для знатоков). Если раньше фишили (от слова phishing – обманывали для выуживания, например, данных карты) только людей, то теперь охотятся за доверчивым железом. Смешно? Нет. Ведь агент с радостью отдаст вашу информацию, если кто-то в вебе внушительно попросит. Как говорится у Ницше, если долго смотреть в бездну, бездна начинает всматриваться в тебя. Вот только теперь бездна обзавелась мышкой и браузером.
Естественно, OpenAI предлагает «ручной ввод». Так, мол, проще, безопаснее. Но в чём тогда радость робота-секретаря, если сложное задание всё равно приходится делать руками? Ах да: это только начало. Настоящий цирк начнётся, когда ИИ будет воевать с ИИ – ведь хакеры первым делом натравят нейросети друг на друга. Театр абсурда – каждый защищает свою пустоту.
Что дальше? Программисты будут придумывать новые фильтры, священники безопасности впадут в экстаз, а параноики купят второй смартфон. Удобство, конечно, это прелесть, но доверие к машинам – как счёт в банке: просто так его никто не пополнит.
