Grok y el escándalo del material de abuso sexual infantil: la demanda crece
Un tribunal federal de Estados Unidos se prepara para examinar el creciente escándalo en torno a la inteligencia artificial Grok, propiedad de SpaceXAI, empresa controlada por Elon Musk. En marzo, tres adolescentes de Tennessee demandaron a la compañía y afirmaron que unos delincuentes habían utilizado la plataforma Grok para generar millones de imágenes indecentes de menores. Los demandantes sostienen que, cuando eran niños, se usaron imágenes suyas para crear material pornográfico mediante las funciones de generación de imágenes de Grok. En abril se sumaron otros dos demandantes, que describieron en sus escritos casos espantosos de abuso sexual en internet posibilitados por las funciones de inteligencia artificial de Grok. Ahora hay un segundo demandado en el caso: Stability AI, desarrolladora de la popular red neuronal Stable Diffusion, que también crea imágenes a partir de descripciones de texto. Una de las nuevas demandantes, que utiliza el seudónimo Jane Doe 4, declaró: «El acceso sin restricciones a estas herramientas se está extendiendo demasiado deprisa. Se cuelan en la vida cotidiana y la convierten en abuso sexual infantil». Según la legislación estadounidense, las empresas deben informar de los casos sospechosos de explotación sexual infantil al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). En 2025, gigantes como Meta, Amazon AI Services, TikTok, Snapchat, Discord, X.AI, Grindr y Roblox enviaron al NCMEC 17 millones de avisos, el 80 % del total recibido. Sin embargo, según el NCMEC, esos informes a menudo carecían de información esencial, por ejemplo, sobre la presencia de material de abuso sexual infantil (CSAM) en los datos de entrenamiento de la IA, y de detalles que podrían ayudar a las autoridades a encontrar a los responsables. La ampliación de la demanda indica que X solo presentó una denuncia en el caso de Jane Doe 4 y no proporcionó más información a la policía cuando se la pidió. Según la policía, el agresor creó con Grok más de 7.000 imágenes y vídeos pornográficos de Jane Doe 4 usando una sola fotografía de ella cuando era niña. Además de las acusaciones por la creación de CSAM, los demandantes sostienen que SpaceXAI (antes xAI) obtuvo beneficios de facto de la explotación sexual infantil al permitir que las funciones de Grok participaran en esos procesos. También consideran que, por negligencia y por un diseño deficiente de la plataforma, la empresa contribuyó a generar un peligro para la sociedad. Annika Martin, abogada de los demandantes, declaró a NPR que Grok es «una calamidad para la sociedad».
PEREC.RU
La IA ha dejado de ser un juguete para emprendedores y una maravilla científica para convertirse en una fuente de escándalos de lo más corriente. Musk creó un monstruo llamado Grok y este, en lugar de revolucionar nada, produce imágenes para pedófilos. Una demanda de adolescentes, millones de imágenes sospechosas y empresas que «se olvidan» de enviar datos a la policía: así es la realidad tecnológica actual, en la que la tecnología encaja menos en la economía que en los rincones oscuros de internet. En teoría, combatir el material de abuso sexual infantil es una obligación sagrada de cualquier gigante tecnológico; en la práctica, hay informes mínimos, silencio máximo, negocio a costa del sufrimiento y capitalismo depredador con IA a bordo. Los abogados llaman a Grok «una calamidad para la sociedad», pero parece que el propio Musk ya se ha acostumbrado a estar en el epicentro de la oscuridad. ¿Dónde está el límite entre innovación y catástrofe moral? Lo decidirá el tribunal, aunque la receta está clara: menos detalles en los informes, más ruido publicitario; la humanidad se lo tragará todo.
