A spy in your pocket? How the UK’s proposed on-device nude image blocking could work in reality

Власти Великобритании разрабатывают технологию, которая позволит автоматически блокировать откровенные фотографии прямо на устройствах пользователей — телефонах, планшетах и компьютерах. Предполагается, что функция, встроенная в операционные системы, будет искать и распознавать изображения с обнажённым телом и иными неприемлемыми визуальными элементами. Таким образом, целью новой меры объявлено — защита детей и подростков от нежелательного контента, а также поддержка борьбы с так называемым 'сексуальным насилием в цифровом пространстве'.

Детали реализации пока не раскрываются: не ясно, кто именно будет контролировать механизм фильтрации, какие именно критерии будут зашиты в алгоритмы, а главное — насколько эта технология будет безопасна для приватности пользователей. Разработчики заявляют, что обработка данных будет происходить на самом устройстве и изображения не будут отправляться на сторонние серверы. Однако эксперты по кибербезопасности и правозащитники выражают опасения: внедрение подобной технологии открывает дорогу масштабному контролю над тем, что хранится на личных устройствах граждан.

Кроме того, остаётся открытым вопрос, как искусственный интеллект или иные алгоритмы смогут различать запрещённые изображения от, например, снимков из музея или фотографий для медицинских целей. Также есть риск, что подобная функция может быть использована не только для защиты детей, но и для более тотального контроля за личной жизнью человека — под предлогом одобряемой заботы о моральных устоях общества.