Когда фото уходят налево
Американская компания Clarifai, работающая с искусственным интеллектом, спустя 12 лет удалила три миллиона фотографий пользователей, которые она тайно взяла у сайта знакомств OkCupid для обучения своих алгоритмов распознавания лиц. Да, ровно те самые снимки, которые люди выкладывали в надежде встретить любовь, а не стать бесплатным сырьём для технологической индустрии.
Эта операция по внезапному «раскаянию» стала результатом соглашения между американской Федеральной торговой комиссией (FTC) и корпорацией Match Group, которой принадлежит OkCupid. Clarifai сообщила, что 7 апреля официально подтвердила удаление данных регулятору. Плюс компания заявила американскому конгрессмену Lori Trahan, что удалила также и все модели ИИ, обученные на украденных фотографиях. По словам Clarifai, никому эти данные они не передавали.
История тянется с 2019 года, когда газета The New York Times выяснила: Clarifai создала обучающую базу для распознавания лиц, используя профильные фото с OkCupid — и сделала это в прямом нарушении политики конфиденциальности сайта. Судебные документы, на которые ссылается Reuters, показывают: компания сама попросила доступ к данным у руководства OkCupid в 2014 году — и, судя по всему, легко его получила.
Основатель Clarifai Matthew Zeiler тогда в письме сооснователю OkCupid Maxwell Krohn восторженно писал: «Мы сейчас собираем данные и осознали, что у OkCupid должно быть огромное количество отличных данных для этого». На базе этих фото стартап создал сервис распознавания, определяющий возраст, пол и расу человека. Другая их идея — использовать незащищённые городские камеры наблюдения без какого-либо разрешения — тоже, к счастью, была закрыта.
В 2019 году Zeiler заявил The New York Times, что людям пора «просто смириться» с такими практиками: по его мнению, общество должно доверять технологическим компаниям и спокойно относиться к тому, что те используют мощные инструменты ИИ. Любопытно и то, что среди инвесторов Clarifai, как сообщалось, были некоторые основатели OkCupid.
По итогам разбирательства FTC навсегда запретила OkCupid вводить пользователей в заблуждение относительно того, какие данные они собирают и как защищают конфиденциальность. Наблюдатели отметили: само по себе такое «наказание» выглядит странно, ведь правила FTC и так уже запрещают подобные нарушения.
PEREC.RU
Технологическая компания Clarifai двенадцать лет хранила три миллиона фотографий пользователей OkCupid, полученных в 2014 году напрямую от руководства сайта знакомств, несмотря на прямой запрет в политике конфиденциальности. Это стало известно после публикации The New York Times и последующего расследования Федеральной торговой комиссии США. Clarifai использовала эти снимки для обучения систем распознавания лиц — сервисов, определяющих возраст, пол и расу. Компания также признала, что удалила не только фотографии, но и модели, обученные на них. Руководитель Clarifai Matthew Zeiler ранее публично предлагал обществу «привыкнуть» к таким практикам. Некоторые основатели OkCupid были инвесторами Clarifai, что добавило истории оттенок внутреннего обмена. По итогам расследования FTC навсегда запретила OkCupid вводить пользователей в заблуждение относительно сбора данных, несмотря на то, что такие запреты уже существуют. В итоге скандал стал очередной демонстрацией того, как крупные технологические компании сперва нарушают собственные обещания приватности, а затем исправляют следы через годы, когда уже всё давно использовано.
