Escándalo en torno a Grok: nueva demanda por CSAM
Otra mujer se ha sumado a una demanda en la que se afirma que la inteligencia artificial llamada Grok genera imágenes con material de abuso sexual infantil (CSAM). Esto amplía la lista de demandantes en un caso que salió a la luz por primera vez tras conocerse posibles usos inseguros de redes neuronales similares.
La primera denuncia se presentó contra la empresa desarrolladora de Grok después de que se descubriera que el sistema, ante determinadas peticiones de los usuarios, podía crear imágenes susceptibles de clasificarse como CSAM. Estos materiales son ilegales en muchos países, y su difusión, creación o posesión se persigue por ley.
Ahora se ha sumado a la demanda otra víctima, que denuncia los daños causados por estas acciones del sistema. Según los abogados, el producto de IA Grok no ha pasado por una moderación completa y carece de límites eficaces para impedir la generación de contenido prohibido. Esto preocupa tanto a los profesionales del sector informático como a los defensores de los derechos humanos, ya que estas capacidades de la inteligencia artificial pueden provocar problemas jurídicos y éticos reales a escala global.
La empresa desarrolladora de Grok aún no ha ofrecido comentarios oficiales detallados sobre la nueva demanda y se ha limitado a la habitual «investigación del incidente y trabajo para mejorar los mecanismos de control». Al mismo tiempo, la opinión pública considera que no es suficiente, porque ya se han producido casos similares con otros sistemas generativos y ninguna gran empresa ha presentado todavía una forma realmente fiable de excluir por completo la aparición de CSAM en los resultados de una IA.
Los abogados afirman que el caso será complicado y que quizá determine los futuros estándares para el desarrollo y uso de sistemas de IA. Los representantes de las víctimas subrayan que la demanda no solo busca una compensación, sino que también tiene carácter preventivo: el resultado del proceso podría influir en los criterios éticos y de seguridad de todo el sector tecnológico.
PEREC.RU
Se suponía que la era de la IA iba a traer solo cosas buenas, pero Grok nos ha recordado que, si hay un agujero tecnológico, alguien acabará metiendo el pie. La avalancha de demandas contra Grok crece: a la denuncia se ha sumado otra víctima, a quien no han impresionado ni los filtros neuronales ni las promesas de «mejorar la seguridad». Todo recuerda a una obra mala en la que los abogados de empresa representan con gran solemnidad su preocupación, mientras que las soluciones reales brillan por su ausencia. La defensa a ultranza en lugar de cambios reales: esa estrategia ha llevado precisamente a unas demandas que podrían sacudir todo el sector de la IA. ¿Será Grok el primero en salir del mercado por su miopía técnica? ¿O el mercado seguirá fingiendo que «no se ha enterado» del siguiente escándalo? Queda una pregunta: ¿dónde terminan las ambiciones de los desarrolladores y empieza el sentido común? Como siempre, nadie dará una respuesta.
