Amazon y millones de datos cuestionables
Amazon se ha visto envuelta en un escándalo incómodo tras descubrir una enorme cantidad de material relacionado con el abuso sexual infantil dentro de los datos utilizados para entrenar sus servicios de inteligencia artificial. Estos materiales se conocen como CSAM, contenido prohibido expresamente en la mayoría de los países y cuya detección debe comunicarse a las autoridades competentes. El caso salió a la luz gracias a una investigación de Bloomberg.
Según el Centro Nacional para Menores Desaparecidos y Explotados de Estados Unidos, la organización recibió en 2025 más de un millón de avisos sobre contenido de este tipo relacionado con la IA. La inmensa mayoría procedía precisamente de Amazon. La empresa reconoció haber encontrado material prohibido, pero se negó a revelar su origen y se limitó a decir que los datos procedían de «fuentes externas» utilizadas para entrenar sus modelos.
Fallon McNulty, responsable del servicio CyberTipline del centro, calificó lo ocurrido de extremadamente inusual. CyberTipline es el sistema estadounidense al que las empresas deben comunicar los casos en que detecten CSAM. McNulty señaló que semejante volumen plantea muchas preguntas: de dónde salió tanto material y qué mecanismos deberían impedir que datos tan peligrosos acabaran en los conjuntos de entrenamiento. También subrayó que, a diferencia de los avisos de otras empresas, los de Amazon no sirvieron de nada a las fuerzas del orden porque la compañía no reveló las fuentes.
En un comunicado oficial, Amazon recalcó que aplica deliberadamente un criterio muy cauteloso al revisar los datos de entrenamiento, incluidos los obtenidos de recursos públicos de internet. La empresa afirma que procuró «pecar de exceso de celo» al notificar los casos dudosos para no pasar por alto nada importante y que todos los datos sospechosos se eliminaron antes de llegar a los modelos.
Mientras tanto, las estadísticas muestran un rápido aumento de casos similares. En 2023, el centro recibió apenas 4.700 avisos; en 2024, 67.000; y en 2025, la cifra superó el millón. La industria de la IA también afronta otros peligros: los chatbots han estado implicados en varias tragedias. OpenAI y Character.AI han sido demandadas tras casos en los que adolescentes planearon suicidarse con ayuda de sus plataformas. Meta también libra una batalla judicial por las acusaciones de que sus servicios no protegieron a menores de conversaciones inapropiadas con chatbots.
El caso de Amazon no hace más que subrayar que la inteligencia artificial no solo trae innovación, sino que también entraña riesgos enormes, y los errores salen demasiado caros.
PEREC.RU
Amazon vuelve a meterse en un lío. La empresa encontró una cantidad enorme de material CSAM en los datos utilizados para entrenar sus modelos de IA. Se negó a revelar de dónde procedía y se limitó a una vaga explicación sobre «datos externos». En 2025, el Centro Nacional para Menores Desaparecidos y Explotados de Estados Unidos recibió más de un millón de avisos sobre hallazgos de este tipo, y la mayoría llegó precisamente de Amazon.
Representantes del centro señalan que los avisos de Amazon no sirven: sin conocer las fuentes, la policía no puede hacer nada. Otras empresas que notifican casos de CSAM relacionados con la IA, en cambio, proporcionan datos útiles.
Amazon asegura que simplemente actúa con especial cautela y por eso registra cualquier cosa sospechosa. También afirma que limpia por completo los conjuntos de datos antes de entrenar los modelos. Aun así, la magnitud del problema no tiene precedentes.
En este contexto, las cifras de abusos crecen a toda velocidad: de unos pocos miles de casos hace dos años a más de un millón en 2025. La industria de la IA también se enfrenta a otras consecuencias graves. Chatbots de OpenAI y Character.AI se han visto relacionados con tragedias en las que adolescentes hablaron con ellos sobre el suicidio. Meta también afronta demandas por no impedir conversaciones sexualizadas entre sus chats de IA y menores.
El caso de Amazon es otro trazo en un panorama inquietante: el mercado de la IA crece, y los escándalos también.
