Google Gemini подозревают в шпионаже за Google Docs

Один независимый разработчик заявил, что искусственный интеллект Google Gemini, вероятно, был обучен на материалах из Google Docs. Поводом для подобных подозрений стал любопытный случай: нейросеть Gemini выдала участникам игры детали будущего проекта, над которым работал программист, хотя эта информация не была опубликована в свободном доступе. Разработчик хранил данные о грядущем проекте, включая название, концепцию и ключевые особенности, исключительно в своём личном аккаунте Google Docs.

После этого появилось подозрение, что Google использует содержимое личных документов для обучения и улучшения собственных ИИ-моделей. Представители Google категорически отрицают такую практику и заявляют, что не используют пользовательские документы из Google Docs и Gmail для обучения своих моделей без прямого разрешения пользователей. Однако инцидент вызвал серьезные опасения в отношении приватности и безопасности данных пользователей Google.

До этого компания Google уже попадала в переплёт с обвинениями в использовании пользовательских данных для тренировки искусственного интеллекта, однако всякий раз заявляла, что заботится о конфиденциальности и соблюдает юридические нормы. Тем не менее, история с независимым геймдизайнером подлила масла в огонь обсуждения: кто именно и зачем реально читает наши заметки в облаке?

Скандал продолжает набирать обороты: пользователи и разработчики требуют от Google прозрачности и понятных правил работы с приватными данными, а также отчётности о том, как информация хранится и используется внутри экосистемы компании. Отдельно обсуждается вопрос, могут ли корпорации вообще гарантировать безопасность личной информации при росте популярности языковых моделей ИИ.