Анти-АИ пленка: как спрятать машину от камер Flock?

Может ли своеобразная пленка для автомобиля превратить вашу машину в невидимку для уличных камер Flock? Стартап noRecognition считает, что это реально. Команда под руководством исследователя кибербезопасности Билла Свеарингена создала компьютерно-сгенерированные узоры, которые почти полностью сбивают с толку искусственный интеллект — тот самый, который сейчас следит за нами буквально на каждом перекрестке.

Эти анти-АИ узоры можно встретить не только на машинах, но и на одежде — футболках и худи, которые продаются ограниченными партиями. Каждый принт уникален и больше не повторится. Принцип прост: камера видит, а вот алгоритм не понимает — кто вы, что вы и что вообще тут происходит. Идею решили применить и к автотюнингу: специальный виниловый wrap призван сбить с толку системы автоматического распознавания номеров (ALPR), используемые Flock, которые собирают тонны наших личных данных и профилей для разных властей и правоохранителей.

На хакерской конференции Def Con в Лас-Вегасе Свеаринген представил доказательство: Toyota Yaris 2009 года, закатанная в аляповатый абстрактный узор с синим и жёлтым. Эти паттерны прошли «боевые испытания» против 11 алгоритмов распознавания, в том числе программного обеспечения Flock и даже бодикамер Axon — тех, что используют копы в США. "Конфиденциальность — базовое право", — поясняет автор идеи, подмечая, как в его родном городе повсюду понаставили камер.

В основе идеи noRecognition лежит принцип так называемых "advserial patterns" — противодействующих ИИ шумов. Обычно это специальные помехи, подсовываемые алгоритму распознавания прямо на изображении — лицо или номерной знак буквально искажается, и компьютер уже не уверен, что перед ним. Бывают и живые варианты — например, необычные узоры на одежде, которые также путают машинное зрение ещё в момент съёмки.

Такие хаотичные рисунки не спасают полностью: сам факт записи камерой всё равно есть. Но алгоритмы, сгенерированные по специфическим схемам и цветам, запутывают нейросети. Этот же принцип используют протестующие с 2020 года — разукрашивают лицо калейдоскопом полосок и пятен, чтобы нейросеть не смогла «опознать» никого. Это движение теперь называют cv dazzle — «ослепление компьютерного зрения».

Тем не менее ни один шаблон не даёт стопроцентной гарантии: то, что отлично зачехлило вас на одной улице, может не сработать за углом. И главное — разработчики таких паттернов зачастую не тестируют их по-крупному, а AI с каждым днём только умнее. Наука двигается, а камеры не исчезают.