Meta распахнула двери Muse
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Meta сделала файловую систему своего ИИ-чат-бота Muse заметно доступнее для любопытных пользователей. Ещё вчера доступ к файлам обнаружили после небольшого «подталкивания» системы: Muse показывала содержимое внутреннего хранилища, благодаря чему можно было заглянуть под капот чат-бота и увидеть детали его работы.
Ситуация выглядела особенно странно: сам Muse сообщал пользователям, в том числе журналистам, что не должен раскрывать такие сведения. Иными словами, чат-бот одновременно демонстрировал внутренние файлы и предупреждал, что делать этого не следует. Для цифрового продукта это примерно как повесить на сейф табличку «не открывать», а затем выдать посетителю ключ.
Однако сегодня поведение системы изменилось. Теперь Muse охотно предоставляет содержимое своей файловой системы по прямому запросу. Судя по всему, это не случайная утечка и не временный сбой: позже представитель Meta Nat Friedman заявил, что такая возможность является «предусмотренным поведением».
David Singleton из Meta Superintelligence Labs дополнительно объяснил решение в публикации на платформе X. По его словам, открытость файловой системы была сознательным выбором, связанным с безопасностью Muse. Доступ к внутренним файлам должен помогать пользователям и исследователям проверять, как устроен чат-бот, какие данные он использует и не скрываются ли внутри нежелательные процессы.
При этом опубликованный фрагмент комментария Singleton обрывается на словах «your Muse Secur…», поэтому полный контекст его объяснения в исходном сообщении отсутствует. Известно лишь главное: Meta считает доступ к файловой системе не ошибкой, а частью задуманного поведения Muse.
История показывает, насколько условной может быть граница между «внутренностями» ИИ-сервиса и информацией для пользователя. Сначала система пыталась сохранить файлы в тайне, затем стала выдавать их по запросу, а представители компании объяснили это намеренным решением. Технологии взрослеют — правда, иногда так, что сначала приходится выяснять, где у них дверь, а потом узнавать, что дверь вообще-то должна быть открыта.
PEREC.RU
Meta сделала файловую систему ИИ-чат-бота Muse доступной для пользователей. Сначала доступ к внутренним файлам обнаружили после небольшого подталкивания системы. Эти файлы позволяли заглянуть под капот чат-бота и увидеть детали его работы, которые, судя по ответам самого Muse, не предназначались для раскрытия.
Парадокс заключался в том, что Muse мог показывать внутренние сведения, но одновременно сообщал пользователям, включая журналистов, что делать этого не следует. На следующий день система стала охотно выдавать содержимое файловой системы по прямому запросу.
Позже представитель Meta Nat Friedman заявил, что такое поведение является «предусмотренным». Это означает, что компания рассматривает доступ не как случайную утечку, а как намеренную особенность Muse.
David Singleton из Meta Superintelligence Labs в публикации на платформе X дополнительно сообщил, что решение было сознательным и связано с безопасностью Muse. Вероятно, открытость файловой системы должна помочь пользователям и исследователям понять устройство чат-бота, проверить его внутренние процессы и оценить, какие данные он использует.
При этом доступный фрагмент сообщения Singleton обрывается на словах «your Muse Secur…», поэтому полного объяснения компании нет. Из опубликованной части следует только то, что Meta намеренно выбрала более открытый подход.
История важна потому, что демонстрирует нестабильную границу между внутренними данными ИИ-сервиса и информацией, которую может получить пользователь. Сначала Muse фактически скрывал файлы и предупреждал о запрете на их раскрытие, затем начал выдавать их по запросу, а Meta объявила это частью задуманного поведения. Для пользователей это означает возможность лучше изучать работу чат-бота, но одновременно поднимает вопросы о том, какие служебные данные должны быть открыты и кто контролирует такой доступ.
