ИИ-няня просит паспорт

ИИ-агенты могут взять на себя часть домашних дел — от планирования меню до расписания детей. Но вместе с рутиной им нередко передают доступ к переписке, календарям и другой личной информации. История американской предпринимательницы Эрики Лейер показывает, где удобство начинает спорить с приватностью.

Лейер воспитывает детей двух и шести лет и использует агента Instinct для бытовых задач: планирования еды, ведения календаря и напоминаний о днях рождения. По её словам, это возвращает ей много времени и помогает выполнять дела, которые раньше постоянно откладывались. Однако настойчивость помощника её насторожила: он предлагал совершать действия от её имени, не объясняя, что будет с полученными данными.

Когда Instinct изучил варианты семейной поездки по Португалии, где живёт Лейер, и предложил купить билеты на поезд, ему понадобились паспорта детей. Лейер профессионально работает с ИИ-агентами, управляет собственной командой таких систем и обучила почти сотню человек создавать агентные операционные системы. Но условия конфиденциальности Instinct показались ей недостаточно прозрачными. Она решила не рисковать и сама забронировала билеты. Представитель основателя Instinct не ответил на запрос Mashable к моменту публикации.

Многие родители, особенно матери, хотели бы передать ИИ утомительную организацию семейной жизни. При этом они не готовы подключать личные данные к сервису, если непонятно, как компания их хранит и использует. Специалисты считают интерес к семейным ИИ-агентам оправданным, но советуют сначала разобраться с защитой информации.

На американском рынке такие сервисы быстро множатся. После запуска Meta Muse в сентябре, который, как сообщалось, стал ответом на ранний успех Instinct, появились агент Dots от OpenAI и лист ожидания на «проактивного» Claude Duet от Anthropic. Стартапы Fambot и Fo, созданные родителями и бывшими руководителями технологических компаний, оказались в тени крупных игроков. Fambot называет себя «ИИ-руководителем штаба» для родителей, а Fo обещает просто «делать дела».

Отдельное внимание привлёк Dazzle — агент бывшего гендиректора Yahoo Мариссы Майер. Она рассказала New York Times, что попросила его выбрать три выдающиеся черты своих дочерей-близнецов для школьного слайда ко дню рождения. Позже Майер написала в X, что в рассказе не хватало контекста: она намеренно испытывала систему необычным запросом. Лейер, в свою очередь, отметила в Substack, что реакция на эту историю обесценила пользу ИИ для домашней рутины, особенно для работающих матерей.

Шьям Сундар, директор Центра ответственного искусственного интеллекта при Университете штата Пенсильвания, считает, что родители, использующие ИИ для экономии времени, не проявляют эгоизма: это может поддерживать психологическое благополучие семьи и отношения между её членами. Молодая мать Эми Ву Мартин, партнёр инвестиционной фирмы Menlo Ventures, использует Muse и Claude, чтобы выяснять, подходят ли рестораны и отели для детей. Она хотела бы освободить голову от повседневной родительской нагрузки.

По опросу Menlo Ventures, родители почти вдвое чаще людей без детей используют ИИ ежедневно. Среди опрошенных родителей 40% обращаются к нему каждый день — например, для планирования еды, покупок и семейной логистики. Ву Мартин допускает, что в будущем агентам можно будет поручить заказывать подгузники. Но доступ к своей электронной почте она пока не даёт: опасается за безопасность данных. Согласовать календарь с мужем она готова.

Fambot, основанный отцом троих детей и бывшим руководителем Uber Дэвидом Райхом, превращает школьные письма, расписания спортивных занятий и чаты родителей в план на день. Он получает доступ только для чтения к почте, календарям и группам WhatsApp, разбирает сообщения и формирует задачи, события в календаре и вечернюю сводку. Фоундер стартапа Wajo AI Шивани Поддар, ранее старший инженерный руководитель в Google DeepMind, использует Fo, чтобы заранее напомнить о покупке костюма на Хэллоуин и найти для малыша занятия китайским языком в Сан-Франциско. При необходимости Fo может подключить к задаче живого сотрудника службы поддержки. Поддар говорит, что хочет вернуть время для общения с ребёнком.

Специалист по информационной безопасности Кейн Макглэдри считает, что снизить риски можно, если внимательно проверять заявления компаний о конфиденциальности. Он советует искать формулировки «нулевое хранение данных», «данные не используются для обучения», «данные не хранятся на серверах поставщика» и «шифрование с нулевым разглашением». Такие обещания указывают на практики, которые должны ограничивать хранение и использование личной информации, хотя сами по себе не заменяют проверки условий сервиса.

Важно и то, как сервис хранит учётные данные. Если агенту доступны пароли от банка и Gmail, их следует хранить и использовать раздельно. Иначе взлом почты может помочь злоумышленнику добраться до банковского счёта.

Родители могут не учитывать, насколько чувствительна информация в их почтовом ящике. Доступ к школьной рассылке может одновременно открыть переписку с учителями, медицинскими и психологическими специалистами. По словам Макглэдри, сам факт доступа к сведениям о здоровье ребёнка не обязательно означает немедленную опасность; важнее, где эти данные хранятся и что с ними произойдёт со временем.

Если стартап обанкротится, информация может перейти другой компании в ходе процедуры банкротства. А рекламодатели, предупреждает эксперт, заинтересованы в доступе к подробным данным о жизни семей — для точного таргетинга. Известный бренд тоже не даёт полной гарантии: у Meta уже были скандалы, связанные с приватностью.

Институт инженеров электротехники и электроники (IEEE), членом которого является Макглэдри, разрабатывает стандарты безопасности для ИИ-агентов. Ожидается, что они появятся не раньше 2027 года. До этого каждый пользователь сам решает, какой риск готов принять ради удобства.

Лейер продолжает пользоваться Instinct, но не подключает к нему почту и личные сведения. Fambot, Fo и Muse, как и некоторые другие агенты, пока недоступны ей в Европе. Она ждёт сервис, в котором безопасность будет заложена с самого начала.