Demandas contra xAI: adolescentes contra Grok
Tres adolescentes del estado de Tennessee han presentado una demanda colectiva contra xAI, la empresa fundada por Elon Musk. El motivo, por decirlo suavemente, no es precisamente el que suelen desear los desarrolladores de inteligencia artificial: los adolescentes afirman que el chatbot Grok creó imágenes y vídeos sexualizados en los que aparecían cuando eran menores. En esencia, se trata de materiales que jurídicamente se consideran pornografía infantil, solo que generados por IA.
La demanda se presentó el lunes. El documento sostiene que Musk y la dirección de xAI conocían la posibilidad de que apareciera este tipo de contenido antes incluso de lanzar «spicy mode», el modo de Grok que permite ofrecer respuestas más «picantes». Los demandantes están convencidos de que activar ese modo fue una decisión deliberadamente arriesgada, cuyas consecuencias la empresa debería haber previsto.
Entre los demandantes hay dos menores y un adulto que era adolescente cuando ocurrieron los hechos. Una de las afectadas, identificada como «Jane Doe 1», descubrió en diciembre del año pasado que circulaban por internet imágenes explícitas generadas por Grok en las que aparecía ella. Las imágenes se crearon sin su consentimiento y, según afirma, le causaron un grave daño moral.
La demanda acusa a xAI de no haber tomado medidas adecuadas para impedir la generación de contenido semejante, pese a los evidentes riesgos tecnológicos. Mientras tanto, el desarrollo de sistemas generativos viene acompañado hoy de constantes advertencias de expertos sobre los peligros de utilizar la IA para crear material de carácter sexual en el que aparezcan menores. Sin embargo, según los demandantes, xAI hizo caso omiso de esos riesgos.
Este caso es otro ejemplo de cómo las empresas tecnológicas afrontan las consecuencias de sus propias innovaciones cuando las herramientas creadas «para entretener» o «ampliar las posibilidades» terminan en el centro de graves problemas jurídicos y éticos.
PEREC.RU
Otra historia de cómo la tecnología corre más que las neuronas, aunque prometía justo lo contrario. xAI lanzó el modo «spicy mode», supuestamente un poco atrevido, y acabó con una auténtica pesadilla jurídica. Es curioso ver cómo las empresas fingen cada vez que estos riesgos las pillan por sorpresa, como si nadie hubiera hablado de una IA que copia los rostros de menores y atrae la atención de los abogados.
La demanda de los adolescentes no es un mero trámite. Es una señal de que el mercado de la IA se está convirtiendo poco a poco en un campo minado. Sus creadores intentan impresionar al público y resulta que solo impresionan a los abogados. Cada nuevo escándalo demuestra con más claridad que la carrera por el «modo más atrevido» acaba en los tribunales.
Ahora xAI tendrá que explicar por qué su IA se adentró con tanta facilidad en un mundo en el que la tecnología y la ética llevan tiempo cada una por su lado. Y nosotros vemos cómo otra empresa ambiciosa se asombra ante las consecuencias de sus propias decisiones, como si todo hubiera ocurrido por sí solo y no por iniciativa de alguien.
