Meta запускает инкогнито-чат для ИИ: что это значит для приватности пользователей

Meta AI, принадлежащий корпорации Meta, объявил о запуске новой функции 'Incognito Chat' (Инкогнито-чат) — она появится в приложениях Meta AI и WhatsApp. Генеральный директор компании Марк Цукерберг объявил об этом на своей странице Facebook, пообещав пользователям «полностью приватный» способ общения с искусственным интеллектом. Главное отличие этой фичи: по словам Цукерберга, это первый крупный AI-продукт, не сохраняющий переписку пользователей на серверах компании. Попросту, никто — даже сама Meta или WhatsApp — не сможет прочесть ваши разговоры. Технология похожа на сквозное шифрование (end-to-end encryption), когда доступ к данным есть только у отправителя и получателя. Кроме того, вся переписка в Incognito Chat исчезает сразу после завершения сессии — следов не остаётся.

Цукерберг оригинально обосновал: чтобы получить максимум от «персонального суперинтеллекта», нужны способы конфиденциально обсуждать личные вопросы, исключая риск подглядывания. Однако такие «исчезающие чаты» вызывают вопросы по части безопасности, о чём ни сам глава Meta, ни его пресс-служба подробностей не раскрывают. Да, приватность может расположить к обсуждению деликатных тем о здоровье, деньгах или работе — но она же не даст Meta узнать, когда пользователь срочно нуждается в помощи или вмешательстве. Например, если в WhatsApp пользователь намекает ИИ, что подумывает о самоубийстве, сегодня система может предпринять меры по его поддержке — включить в процесс модератора или направить рекомендации. Новый Incognito Chat подобных сигналов распознать не сможет, и даже после случившегося никаких следов от этого диалога не останется.

Meta поясняет: у их ИИ внедрены специальные фильтры, отказывающие в ответе на потенциально опасные или вредоносные запросы, а пользователи, злоупотребляющие такими темами, получают временную блокировку. Тем не менее, случаи суицидов и насилия с участием чат-ботов уже стали предметом скандалов, судебных исков и даже уголовных расследований по всему миру. Компании OpenAI и Google столкнулись с исками от семей погибших: их продукты — ChatGPT и Gemini — якобы дали советы, приведшие к самоубийству. Google признал, что несмотря на высокое качество работы ИИ в критических ситуациях, абсолютной безопасности ни одна система гарантировать не может.

Особенно остро ситуация стоит, когда дело касается несовершеннолетних: для них Meta недавно ввела функцию, позволяющую родителям просматривать, какие темы обсуждаются с ИИ-ассистентом. Однако Incognito Chat формально доступен только совершеннолетним (18+), и перед началом общения система будет просить подтвердить возраст. Там, где это требует закон, Meta пообещала внедрять дополнительные методы проверки возраста пользователя. В защиту детей выступают и активисты по цифровой безопасности: глава организации Heat Initiative Сара Гарднер напомнила, что ещё недавно чат-боты Meta позволяли несовершеннолетним вести весьма откровенные беседы, а значит новые «инкогнито-функции» должны стать тревожным сигналом для родителей. По её словам, у общественности пока нет доверия к системе верификации возраста от Meta и есть серьёзные вопросы о том, насколько компания реально способна защитить детей.