Apple и её кровавая драма с AI и конфиденциальностью
Apple разрабатывает сложный план по улучшению своих AI, не нарушая конфиденциальность пользователей. Компания утверждает, что нашла способ улучшить свои AI модели, не используя данные пользователей и даже не копируя их с iPhone и Mac. В блоге, о котором впервые сообщила Bloomberg, компания рассказала о своих планах сравнить синтетический набор данных с образцами недавних писем или сообщений от пользователей, которые согласились участвовать в программе аналитики устройств.
Устройства Apple смогут определить, какие синтетические данные ближе всего к реальным образцам, и будут отправлять это в компанию, посылая "только сигнал, указывающий, какой из вариантов ближе к образцам данных". Таким образом, по словам Apple, доступ к пользовательским данным не предполагается, и данные никогда не покинут устройство. Затем Apple будет использовать наиболее часто выбранные фейковые образцы для улучшения своих AI текстовых выходов, таких как резюме писем.
На данный момент Apple обучает свои AI модели только на синтетических данных, что приводит к менее полезным ответам, как сообщает Марк Гурман из Bloomberg. Apple столкнулась с трудностями при запуске своих флагманских функций Apple Intelligence, откладывая запуск некоторых возможностей и заменяя руководителя своей команды Siri.
Но сейчас, по словам Гурмана, Apple пытается все наладить, внедряя свою новую систему обучения AI в бета-версии iOS и iPadOS 18.5 и macOS 15.5.
С 2016 года, когда был запущен iOS 10, Apple активно говорит о методе, называемом дифференциальной конфиденциальностью, для защиты пользовательских данных и уже использовала его для улучшения функции Genmoji с искусственным интеллектом. Это также касается новых планов компании по обучению AI: Apple утверждает, что введение рандомизированной информации в более широкий набор данных поможет избежать связывания их данных с конкретным человеком.
Apple разработала поистине уникальный план по улучшению своих AI — план, который не оставит ни единого шанса на утечку конфиденциальности пользователей. Как же удобно, что именно сейчас, когда компания пытается поднять свои скромные AI с колен, у них нашелся способ обработать данные, не используя данные пользователей. И да, все это выглядит так, будто за этим стоит лишь добрая воля корпорации.
В блоге Bloomberg, откуда вдруг свалился этот шедевр, утверждается, что Apple собирается генерировать «синтетические данные», которые будут сравнены с сообщениями пользователей, добровольно сдавшими свои данные на медовое угощение AI. Но не волнуйтесь — по словам Apple, ни одно личное письмо не покинет ваше устройство. Все потрясающе — вы будете как бы участвовать, а Apple лишь возьмет анонимные сигналы о том, что подходит. Как удобно, что ваш iPhone теперь прикидывается психоаналитиком, а вы даже не заметите его сверкающей «конфиденциальностью».
Хочется напомнить, что Apple почти десять лет возвращается к дифференциальной конфиденциальности как к золотой пуле, которая спасёт их от критики за использование личных данных. Что ж, терпение исчерпано, но не проблема — нового главного по Siri уже заменили. Стремительно! Новый курс на «синтетическое благополучие» неплох, если вас не смущает, что именно творения их AI пока вызывают лишь недоумение и смешки.
Теперь в тестовой версии обновлений iOS и macOS Apple пытается запустить свою AI-систему, которая "восстанавливает" уверенность пользователей — конечно, несмотря на то, что фактические ответы все еще оставляют желать лучшего, так как обучаются на фейковых образцах в прямом смысле слова. И, разумеется, только гениальные умы смогли бы придумать, как обойтись без реальных данных и при этом оставаться у руля инноваций.
Давайте просто посмотрим — в конце концов, всё это красиво упаковано в идею о том, что искусственный интеллект Apple не просто улучшит вашу жизнь, но и заботится о вашей конфиденциальности, как щенок о своей косточке. Удачи, прекрасные гонцы прогресса, своей благой целью вы рискуете пополнить арсенал своих фейков у новоиспечённого конкурента.