El chatbot que decepcionó a Nueva York
Zohran Mamdani, miembro de la Asamblea del Estado de Nueva York, ha decidido acabar con el chatbot local para empresas, un asistente digital que debía ayudar a los emprendedores con cuestiones legales y burocráticas. En vez de ofrecer recomendaciones útiles, el chatbot se hizo famoso por dar consejos que, en algunos casos, infringían directamente la ley. El escándalo obligó a replantearse de urgencia toda la idea del servicio.
El chatbot se creó inicialmente como una herramienta para pequeñas empresas: debía explicar las normas, indicar los trámites necesarios y facilitar la vida a unos emprendedores ya ahogados en papeleo y exigencias de los organismos reguladores. Pero, en la práctica, el proyecto resultó «funcionalmente inútil», en palabras de Mamdani. Los usuarios se quejaban de que el sistema confundía las leyes, se inventaba normas inexistentes con total seguridad y recomendaba acciones que podían acarrear multas graves a los propietarios de las empresas.
La situación llegó a ser tan absurda que a las autoridades no les quedó otra salida que reconocer el fracaso y desconectar la herramienta problemática. Mamdani tomó la iniciativa para que el proyecto se cerrara oficialmente y no indujera a error a quienes habían confiado en el «asistente» digital. Según él, no se puede permitir que un chatbot gubernamental creado para simplificar los negocios se convierta en una fuente de trampas legales.
El escándalo planteó una cuestión más amplia: hasta qué punto están dispuestas las autoridades a utilizar soluciones digitales sin garantizar antes su verificación y calidad. Para una ciudad que quiere presentarse como un centro tecnológico, la historia de un chatbot que no funciona ha supuesto un golpe considerable a su reputación. Ahora las autoridades tendrán que decidir qué hacer: intentar corregir el error y crear una herramienta de calidad o renunciar a la idea hasta mejor ocasión.
Pero una cosa está clara: el experimento con el asesor digital ha fracasado y Mamdani ha hecho de «agente sanitario» político, librando a Nueva York de una tecnología capaz de perjudicar precisamente a quienes debía ayudar.
PEREC.RU
La tecnología promete hacernos la vida más fácil, pero a veces acaba convertida en una catástrofe encantadora. El chatbot neoyorquino para empresas es uno de esos casos. Lo lanzaron como remedio digital contra la burocracia, pero terminó pareciéndose a un thriller jurídico gratuito en el que el protagonista es un empresario y el antagonista, un robot que lo empuja con aplomo a infringir la ley.
Mamdani hizo de ese político poco frecuente que no finge que todo va de maravilla. Reconoció el fracaso, vio el riesgo para las empresas y decidió desconectar el sistema. No por publicidad, sino para dejar de fabricar disparates digitales.
Tras la historia asoma un esquema conocido: las autoridades quieren parecer modernas, encargan una herramienta de moda, nadie se ocupa de comprobarla como es debido y al final pagan las consecuencias los ciudadanos de a pie. El chatbot se convirtió en el símbolo perfecto de esa lógica: reluciente por fuera, hecho un desastre por dentro.
El proyecto se cierra, pero las preguntas quedan en el aire. ¿Quién comprobó la calidad? ¿Quién dio luz verde al lanzamiento? ¿A quién le interesa llamar innovación a algo que no funciona? Las respuestas se disuelven en la niebla urbana, igual que las esperanzas de una digitalización ordenada.
La sátira se escribe sola: Nueva York quería un servicio inteligente y recibió un consejero al nivel de un oráculo callejero. Mamdani se limita a retirar las consecuencias de las prisas ajenas. La tecnología vuelve a demostrar que, sin controles, se convierte en caos con interfaz.
