Amazon и миллионы сомнительных данных

Amazon оказалась в центре неприятного скандала после того, как выявила огромное количество материалов, относящихся к категории сексуального насилия над детьми, внутри данных, использованных для обучения своих сервисов искусственного интеллекта. Эти материалы известны как CSAM — контент, прямо запрещённый в большинстве стран и требующий обязательного сообщения в соответствующие органы. История всплыла благодаря расследованию Bloomberg.

По данным Национального центра пропавших и эксплуатируемых детей США, организация получила более миллиона сообщений о подобном контенте, связанном с ИИ, за 2025 год. Подавляющее большинство этих сообщений поступило именно от Amazon. Компания признала, что обнаружила запрещённые материалы, но отказалась раскрывать их источник, заявив лишь, что данные поступили "из внешних источников", использованных для обучения моделей.

Руководитель службы CyberTipline центра, Fallon McNulty, назвала происходящее крайне необычным. CyberTipline — это американская система, куда компании обязаны сообщать о случаях обнаружения контента CSAM. McNulty отметила, что подобный масштаб вызывает массу вопросов: откуда взялись такие объёмы и какие механизмы должны предотвратить попадание настолько опасных данных в обучающие наборы. Она также подчеркнула, что, в отличие от других компаний, сообщения Amazon оказались бесполезными для правоохранителей, поскольку компания не раскрыла источники.

В официальном заявлении Amazon подчеркнула, что намеренно применяет максимально осторожный подход к проверке данных для обучения, включая те, что берутся с открытых интернет‑ресурсов. Компания утверждает, что стремилась «переотчитывать» сомнительные случаи, чтобы не пропустить ничего важного, и что все подозрительные данные были удалены до того, как попали в модели.

Тем временем статистика показывает стремительный рост подобных случаев. Если в 2023 году центр получил всего 4 700 сообщений, а в 2024 — 67 000, то за 2025 год эта цифра превысила миллион. При этом индустрия ИИ сталкивается и с другими опасностями: чат‑боты оказались вовлечены в несколько трагедий. Компании OpenAI и Character.AI подали в суд после случаев, когда подростки планировали самоубийство при помощи их платформ. Meta также ведёт судебную борьбу из‑за обвинений в том, что её сервисы не защитили подростков от неподобающих разговоров со стороны чат‑ботов.

История с Amazon лишь подчёркивает: искусственный интеллект — это не только инновации, но и зона колоссальных рисков, где ошибки стоят слишком дорого.