Следите за новостями по этой теме!
Подписаться на «Гик Гайд (3 апельсина) / Цифра сегодня»
Amazon собирает историю покупок, чтобы показывать персональные рекомендации. Но, судя по обнаруженным пользователями настройкам, компания использует эти данные не только для того, чтобы предложить очередную пару носков или бытовую мелочь. Алгоритмы пытаются составить подробный портрет человека — включая особенности внешности, характера и социальной жизни.
Пользовательница обнаружила в настройках Amazon описание, согласно которому сервис считает, что у неё «плоские ягодицы». По её словам, такой вывод был сделан на основе покупок. Запись быстро разошлась в Threads, после чего другие пользователи начали публиковать собственные характеристики, которые Amazon связывает с их поведением в магазине.
Одному человеку сервис приписал неспособность легко доверять людям. Другой пользователь обнаружил, что Amazon считает: он или она находит какую-то вещь — фрагмент исходного сообщения обрывается и не позволяет восстановить точную формулировку. Поэтому полный перечень подобных выводов неизвестен.
Суть истории не в том, насколько нелепо звучат отдельные предположения. Важно, что торговая платформа, которой люди передают сведения о покупках, пытается превращать эти данные в психологические и физические характеристики. Пользователь может увидеть не только рекомендации товаров, но и то, каким его предположительно видит алгоритм.
Такие оценки не обязательно являются достоверными: это автоматические догадки, построенные на неполной информации и шаблонах поведения. Алгоритм не понимает человека в человеческом смысле — он сопоставляет покупки с определёнными категориями и делает вывод, который иногда выглядит так, будто его составлял слишком самоуверенный знакомый.
История также показывает, насколько далеко может заходить персонализация в цифровой торговле. Пока покупатель думает, что просто заказывает товары, система может создавать о нём профиль, включающий интимные, социальные и психологические предположения. И всё это — ради более точного понимания того, что ему предложить следующим.
Amazon давно продаёт не только вещи, но и надежду, что следующий заказ наконец объяснит жизнь. Теперь выясняется, что корзина годится ещё и на роль исповедальни: положил носки — получил от машины диагноз характера и геометрию тела. Сервис заботится о вас так усердно, будто вы сами забыли спросить.
Смешны тут не отдельные промахи алгоритма, а уверенность, с которой догадку выставляют за знание. Покупка — слабый свидетель: человек приобретает вещь для себя, в подарок, по скидке или по чужой просьбе. Но системе достаточно связи между товарами, чтобы нарисовать портрет; кисть у неё широкая, рамка — корпоративная.
У такого портрета есть удобный заказчик: продавцу проще предлагать товар, когда покупатель разложен по полочкам заранее. Чем интимнее ярлык, тем бодрее выглядит презентация персонализации — будто компания не следит за привычками, а просто внимательно слушает. Разница, как обычно, обнаруживается в момент, когда слушатель уже составил на вас досье.
Пользователю оставляют роль зрителя в собственном цифровом деле: можно увидеть, что о тебе надумали, и посмеяться над особенно нелепой строкой. Само право машины на такие предположения обычно обсуждают куда тише. Удобная прозрачность: вам показывают витрину, но не выдают ключ от склада.
Угроза здесь не в том, что алгоритм вдруг стал психологом. Он им не стал, и это почти успокаивает: перед нами набор корреляций, а не глубокое понимание личности. Неприятнее другое — сырой вывод может звучать убедительно, если его повторить достаточно уверенным голосом и встроить в интерфейс рядом с рекомендациями.
Пока покупателю предлагают считать всё это забавной особенностью шопинга. Компания получает повод точнее угадывать, чем ещё занять его внимание, а человек — сомнительное зеркало, собранное из чеков и статистики. Когда торговля назначает себя экспертом по телу и доверию, забота начинает подозрительно напоминать инвентаризацию клиента.