ИИ обещает тайну

Разработчики ИИ снова обещают приватность. Но кто проверит обещающих?
На ежегодном мероприятии OpenAI DevDay генеральный директор OpenAI Сэм Альтман представил новый ИИ-агент компании — Dots. ИИ-агентом называют программу, которая может не только отвечать на запросы, но и выполнять последовательность действий для пользователя. Во время презентации Альтман заявил, что OpenAI хочет «установить новый стандарт конфиденциальности в передовом искусственном интеллекте».
Формулировка звучит внушительно, особенно на фоне растущего числа сервисов, которые собирают персональные данные пользователей. Однако презентация была не только рассказом о собственном продукте. В течение мероприятия OpenAI неоднократно делала завуалированные выпады в адрес главного конкурента — Meta и ее ИИ-агента Muse. Намек был понятен: по версии OpenAI, Meta недостаточно хорошо защищает пользовательские данные.
Проблема в том, что у этой истории есть зеркальная сторона. Всего за несколько месяцев до этого Meta представила Muse как более безопасную альтернативу своему предшественнику OpenClaw. Генеральный директор Meta Марк Цукерберг тогда пообещал, что новый продукт «создан с нуля с учетом требований конфиденциальности и безопасности».
Получается знакомая технологическая дуэль: одна компания заявляет, что именно она станет эталоном защиты данных, а другая уверяет, что уже построила такой эталон. Пользователю при этом предлагают поверить на слово — желательно до того, как агент получит доступ к переписке, файлам, аккаунтам и другим чувствительным сведениям.
Для ИИ-агентов вопрос приватности особенно важен. Такие системы потенциально работают с большим объемом личной информации и могут выполнять действия от имени человека. Если данные хранятся слишком долго, используются неясным образом или становятся добычей злоумышленников, цена ошибки оказывается выше, чем у обычного чат-бота.
Компании пытаются убедить аудиторию, что способны решить эту проблему, хотя одновременно технологический рынок живет за счет накопления пользовательских данных. На этом фоне кибератаки стали регулярным явлением, а обещания «безопасности с нуля» пока остаются именно обещаниями, а не независимым доказательством.
Главный вопрос поэтому звучит не так: кто громче произнес слово «privacy». Важнее понять, какие данные собирает каждый агент, где они хранятся, кто может получить к ним доступ, используются ли они для обучения моделей и что произойдет после взлома. В представленном фрагменте конкретные ответы на эти вопросы не приведены.
Сэм Альтман говорит о новом стандарте, Марк Цукерберг — о защите, встроенной в основу продукта. А пользователям остается ждать не очередного рекламного обещания, а проверяемых правил, технических гарантий и прозрачной отчетности. Иначе конкуренция за доверие рискует превратиться в конкурс лозунгов, где приз достанется тому, кто первым соберет больше данных.