Baltimore contra xAI: el escándalo de Grok
La ciudad de Baltimore ha demandado a xAI por el escándalo de Grok, el chatbot con generación de imágenes desarrollado por las empresas de Elon Musk. El detonante fue una avalancha de contenido manifiestamente ilegal: según el Centro para la Lucha contra el Odio Digital, en 11 días se crearon con Grok unos 3 millones de imágenes sexualizadas, de las cuales 23.000 mostraban a menores. No es solo una estadística alarmante: en varios países, estas acciones ya han motivado restricciones, inspecciones e investigaciones sobre la plataforma. Sin embargo, las autoridades estadounidenses aún no han tomado medidas contra xAI a escala federal. En este contexto, Baltimore ha decidido actuar por su cuenta.
La demanda municipal sigue otra línea: las autoridades de la ciudad acusan a xAI de infringir la ley local de protección de los consumidores. Según la denuncia, citada por The Guardian, la empresa promocionó Grok como un asistente digital de uso general, pero «olvidó» advertir con claridad a los usuarios de los riesgos y los posibles daños asociados al uso de Grok y de la red social X. En esencia, se trata de inducir a error a los ciudadanos y de ofrecer productos que no cumplen el nivel de seguridad anunciado.
Ebony M. Thompson, abogada municipal de Baltimore, subrayó que esas normas se crearon precisamente para proteger a los ciudadanos de amenazas como esta. Señaló que, cuando las empresas presentan al mundo tecnologías potentes sin las salvaguardias necesarias ni mecanismos para prevenir los abusos, las autoridades municipales tienen la obligación de intervenir. Y eso es lo que hacen ahora: intentan proteger a los residentes, exigir responsabilidades a xAI y evitar que el daño se consolide mientras la tecnología avanza a toda velocidad.
No es el primer intento en Estados Unidos de llamar la atención sobre Grok a través de los tribunales. Anteriormente, tres adolescentes presentaron una posible demanda colectiva en la que afirmaban que sus fotografías se habían utilizado para crear material de abuso sexual infantil. Así, la presión sobre xAI aumenta y las preguntas sobre la seguridad y la regulación de las nuevas tecnologías se vuelven aún más acuciantes.
PEREC.RU
Baltimore ha decidido intervenir allí donde las autoridades federales se comportaban como espectadores de una obra aburrida. Lo de Grok llevaba tiempo oliendo a chamusquina: millones de deepfakes, miles de imágenes de menores, investigaciones por todo el mundo. Y todo funcionaba con acceso libre hasta que a alguien se le ocurrió preguntar por qué no se había limitado la tecnología.
La demanda municipal de la ciudad no parece una lucha contra la inteligencia artificial, sino contra la indiferencia. xAI vendía un asistente digital, pero en la práctica ofrecía una herramienta capaz de generar contenido ilegal. Las autoridades de Baltimore han decidido recordar que los consumidores no son conejillos de Indias para una utopía de silicio.
Y la demanda paralela de los adolescentes solo subraya la magnitud del problema. El progreso tecnológico vuelve a ir más deprisa que el sentido común, y alguien tendrá que darle alcance.
