Искусственный интеллект дружит с вирусами: взлом ChatGPT и Grok

Хакеры научились обманывать искусственный интеллект: теперь инструменты вроде ChatGPT, Grok и даже поисковика Google невольно помогают злоумышленникам распространять вредоносное ПО. Ранее появлялись новости о том, что обмануть браузер с искусственным интеллектом вовсе не сложно. А сейчас появилось новое предупреждение. Согласно отчету компании Huntress, занимающейся выявлением и реагированием на киберугрозы, преступники используют подсказки для ИИ, чтобы «встраивать» в результаты поиска Google опасные команды. Если доверчивый пользователь выполнит эти команды на своем компьютере — например, введет их в терминал — мошенник получает доступ к устройству и может установить вредоносную программу.

Как это работает? Мошенник общается с ChatGPT или Grok на тему популярного поискового запроса — к примеру, «как освободить место на Mac». Затем он подталкивает ИИ предложить пользователю вставить определенную команду в терминал. Эту беседу делают видимой для всех и платят Google за продвижение — ведь платные ссылки по-прежнему беззастенчиво появляются поверх всего. Когда кто-то ищет «освободить место на Mac», вредоносное обсуждение сразу всплывает на первой странице поиска.

Компания Huntress обнаружила этот способ после атаки на пользователей Mac — вредонос AMOS проникал на их компьютеры именно так. Пользователь искал способ очистить диск, кликал на спонсируемую ссылку ChatGPT, получал вредоносную «рекомендацию» — и позволял установить на свой Mac чужую заразу. Оказалось, что аналогичным образом реагировал и Grok.

Самое опасное в этой схеме — полное отсутствие привычных «красных флажков». Жертве не нужно скачивать подозрительный файл, запускать что-то непонятное или переходить по мутной ссылке. Достаточно верить Google и нейросетям из топов — чего, кажется, нас усиленно приучают. И даже когда наводка с ChatGPT была убрана из поиска, полдня она провела там, собирая урожай доверчивых пользователей.

Стоит добавить — неудачный момент для обеих ИИ-систем. Grok сам себе роет яму тем, что подозрительно лоялен к Илону Маску, а у OpenAI (создателей ChatGPT) позиции и так пошатнулись. Пока неизвестно, можно ли повторить атаку на других чат-ботах, но совет прост: не доверяйте всему, что показывают вам Google и ИИ, и никогда не вставляйте в терминал или браузер посторонние команды, если не уверены в их назначении.