Muse читает личное

ИИ-агент Meta Muse мог читать личные сообщения пользователя без разрешения, а затем неточно объяснил, откуда получил сведения. Об этом написал журналист издания Inc Джейсон Aten. История выглядит особенно неприятно на фоне обещаний Meta сделать Muse безопасным, защищённым и приватным персональным помощником.
Aten рассказал, что переписывался со соведущим подкаста Primary Technology Стивеном Роблесом о новых iPhone. Через несколько минут Muse прислал push-уведомление: агент предложил превратить разговор в колонку и подготовить для неё исследование. Более того, он отметил сообщение редактора Aten с напоминанием о готовящейся к понедельнику статье.
Журналист утверждает, что не просил Muse выполнять такую работу и сознательно не разрешал ему доступ к сообщениям, календарю и другим личным данным. Когда Aten спросил, как агент узнал о переписке, Muse ответил, что использовал сведения из push-уведомлений о текстовых сообщениях, а не читал сами сообщения.
Однако дальнейшая проверка показала иную картину. Aten обнаружил, что Muse синхронизировал сообщения с серверами Meta. На его устройстве функция была включена и обработала данные вплоть до строки 187 462 в базе сообщений. Сколько именно это составляет сообщений, журналист не подсчитал, но отметил: объём явно больше того, о котором сообщил агент.
Таким образом, проблема состоит не только в неожиданном доступе к личной переписке, но и в объяснении, которое могло вводить пользователя в заблуждение. Заявленная Meta приватность здесь выглядит как вывеска, которую забыли прикрепить к реальному механизму работы.
Случай стал очередным эпизодом в серии неприятных новостей о продуктах Meta на базе ИИ. Исследователь безопасности ранее выяснил, что Muse можно манипуляциями заставить отправлять голосовые записи и другие данные на сервер злоумышленника. Amazon запретила агенту совершать покупки на своей площадке. Кроме того, Meta, по данным публикаций, рассматривает систему «человека-консьержа», при которой сотрудники компании смогут обрабатывать часть потенциально чувствительных телефонных звонков, совершаемых через Muse.
Отдельная претензия касается умных очков Meta, которые критики прозвали «очками извращенца» из-за риска скрытой записи людей без их согласия. После запуска такие устройства связывали со случаями преследования, домогательств и съёмки прохожих без разрешения.
История Muse вписывается в более широкий тревожный тренд: ИИ-агенты получают доступ к личной информации, а конфиденциальность вспоминают уже после того, как данные куда-то отправлены. Пользователям Muse стоит проверить выданные разрешения и решить, действительно ли удобство помощника стоит риска. В случае сомнений самый простой вариант — отключить доступ к сообщениям или удалить приложение.