Политика, которую никто не читает
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Политики конфиденциальности популярных ИИ-чат-ботов оказались настолько длинными и сложными, что пользователю потребуется в среднем около 20 минут, чтобы их прочитать. На этом фоне неудивительно, что люди передают ChatGPT и другим сервисам сведения о себе, почти не понимая, что происходит с введёнными данными.
Когда человек отправляет чат-боту текст, вопрос, документ или набор чисел, он рассчитывает быстро получить ответ. Однако сервису необходимо не только обработать запрос, но и определить, как хранить, использовать и защищать полученную информацию. Ответы на эти вопросы содержатся в политике конфиденциальности — документе, который большинство пользователей открывает редко, а дочитывает ещё реже.
Исследование специалистов по кибербезопасности Bridewell охватило политики конфиденциальности 20 крупных языковых моделей, или LLM. LLM — это системы искусственного интеллекта, способные понимать и создавать текст. Средний объём изученных документов составил 4603 слова, а среднее время чтения — около 20 минут. Некоторые политики требуют ещё больше времени.
Проблема не только в размере. Для оценки понятности документов исследователи использовали индекс удобства чтения Flesch Reading Ease. Этот показатель разработал Rudolf Flesch в 1948 году: чем выше результат, тем проще текст. Значение выше 60 обычно считают хорошим, а показатель ниже 60 говорит о заметной сложности. Средний результат изученных политик составил 40,2 балла. Иными словами, документы перегружены юридическими формулировками и специальными терминами, которые трудно понять без подготовки.
Важность вопроса растёт: около 75% людей признаются, что пользуются ИИ-чат-ботами хотя бы раз в месяц. Они отправляют сервисам рабочие вопросы, личные сведения, фрагменты переписки и документы, но не всегда знают, где окажутся эти данные и для чего их применят.
Bridewell выяснила, что 13 из 20 исследованных языковых моделей используют пользовательские запросы и ответы для обучения своих моделей. У некоторых сервисов есть возможность отказаться от такого использования, однако она доступна не всегда и нередко спрятана в настройках или описана недостаточно понятно.
Chris Linnell, заместитель директора по защите данных в Bridewell, считает, что пользователям необходимо понимать порядок обработки информации. По его словам, компаниям следует заранее определить, какие сведения сотрудникам разрешено передавать чат-ботам, а какие нельзя, и по возможности использовать корпоративные аккаунты с необходимыми ограничениями. Иначе работник может отправить в ИИ конфиденциальные или особо чувствительные данные, которые впоследствии будут применяться для обучения модели.
Риск существует не только для частных пользователей. При работе сотрудники могут передавать чат-ботам коммерческие тайны, персональные данные клиентов, внутреннюю переписку или ещё не опубликованные документы. Даже если сервис обещает не использовать определённые сведения, условия зависят от конкретного тарифа, настроек и политики компании.
Исследователи также заметили закономерность: чем сложнее языковая модель, тем дольше обычно приходится читать её политику конфиденциальности. В качестве примеров упомянуты Meta's Muse Spark и Moonshot AI’s Kimi K. Технологии развиваются быстро, а объяснения их правил обработки данных по-прежнему напоминают инструкцию, написанную специально для того, чтобы её никто не осилил.
PEREC.RU
Статья рассматривает проблему прозрачности и безопасности при использовании больших языковых моделей, или LLM. Речь идёт о чат-ботах вроде ChatGPT и других системах искусственного интеллекта, которым пользователи передают тексты, вопросы, числа, документы и персональные сведения. Пользователь ожидает, что сервис быстро обработает запрос, но политика конфиденциальности определяет, как именно эти данные могут храниться, использоваться и защищаться.
Исследование специалистов по кибербезопасности Bridewell изучило политики конфиденциальности 20 крупных языковых моделей. Средний документ содержит 4603 слова, а его чтение занимает около 20 минут. Некоторые политики требуют ещё больше времени. Однако сложность связана не только с объёмом: средний показатель удобства чтения Flesch Reading Ease составил 40,2 балла. Индекс был разработан Rudolf Flesch в 1948 году; результат выше 60 обычно считают хорошим, а значение ниже 60 указывает на трудный для понимания текст. Таким образом, многие политики перегружены юридическими формулировками и специальной терминологией.
Проблема особенно важна из-за широкого распространения ИИ-чат-ботов: около 75% людей используют их хотя бы раз в месяц. При этом пользователи могут не понимать, куда направляются их запросы и как применяются введённые данные.
Bridewell установила, что 13 из 20 исследованных моделей используют пользовательские запросы и ответы для обучения. У некоторых сервисов можно отказаться от такого использования, но эта функция доступна не всегда и может быть неочевидной для пользователя.
Chris Linnell, заместитель директора по защите данных в Bridewell, подчёркивает необходимость понятных правил. Компании должны заранее определить, какие сведения сотрудники могут передавать ИИ, а какие запрещено использовать, и по возможности применять корпоративные аккаунты с дополнительными мерами защиты. Без таких правил в чат-бот могут попасть конфиденциальные документы, коммерческие тайны, персональные данные клиентов и внутренняя переписка. Эти материалы впоследствии могут использоваться для обучения модели в зависимости от условий конкретного сервиса.
Риск касается не только частной жизни, но и рабочей деятельности. Чем сложнее языковая модель, тем дольше обычно приходится изучать её политику конфиденциальности. В статье приведены Meta's Muse Spark и Moonshot AI’s Kimi K как примеры сложных моделей. Главный практический вывод: перед отправкой чувствительной информации нужно проверить политику конкретного сервиса, настройки обучения и тип используемого аккаунта, а компаниям — установить внутренние ограничения для сотрудников.
