Una subvención cancelada por indicación de la IA
Varios demandantes han presentado demandas contra un organismo estadounidense llamado Department of Government Efficiency, abreviado DOGE. Acusan a la agencia de que sus empleados utilizaron la red neuronal ChatGPT para decidir el destino de las subvenciones del Fondo Nacional para las Humanidades. Según documentos publicados por el Consejo Americano de Sociedades Científicas, entre las ayudas canceladas figuraba una subvención para el Museo High Point, en Carolina del Norte. Y todo porque, supuestamente, ChatGPT detectó en ella indicios de ideología DEI: Diversity, Equity, Inclusion, es decir, políticas de diversidad, equidad e inclusión.
La subvención en sí era bastante prosaica: casi 350.000 dólares para sustituir el viejo sistema de calefacción, ventilación y aire acondicionado. En pocas palabras, el museo quería renovar el sistema HVAC para que las piezas no se humedecieran ni se secaran demasiado y, en general, pudieran conservarse en condiciones adecuadas. La mejora del clima interior también permitiría ahorrar energía y garantizar la conservación a largo plazo de la colección.
Pero los empleados de DOGE decidieron consultar la solicitud a ChatGPT. Introdujeron en la red neuronal una breve descripción del proyecto y preguntaron si tenía relación con DEI. ChatGPT respondió que sí, alegando que mejorar las condiciones de conservación y ampliar el acceso a las colecciones podía considerarse una iniciativa «para un público diverso» y, por tanto, estar relacionada formalmente con DEI.
Como explicó la directora del museo, Edith Brady, el proyecto ya había empezado a ejecutarse, pero poco después cancelaron la subvención. Aun así, el museo logró recuperar alrededor del 70 % de la cantidad gracias a una cláusula de rescisión anticipada de la financiación.
La situación ha aumentado aún más la desconfianza hacia el uso de la inteligencia artificial por parte de las instituciones públicas. Una cosa es automatizar tareas rutinarias; otra muy distinta, dejar que una red neuronal decida quién recibe dinero para proyectos reales de infraestructura. Ahora DOGE tendrá que responder ante los tribunales por las decisiones de sus empleados, tomadas a partir de las respuestas de un modelo que no está diseñado para ese trabajo. El caso del sistema HVAC es un ejemplo claro de lo absurdas que pueden ser las consecuencias cuando se usa la tecnología sin comprender sus limitaciones.
PEREC.RU
La historia de la subvención cancelada parece otra demostración de que la tecnología no nos libra de la pereza humana: se limita a disfrazarla. Los empleados de DOGE no se molestaron en entender la solicitud y le pasaron la responsabilidad a una red neuronal. Muy cómodo: si algo sale mal, la culpa es de la máquina.
ChatGPT soltó una idea de plantilla sobre el acceso para un «público diverso», y eso bastó para que un museo de verdad se quedara sin la financiación que necesitaba. El proyecto ya estaba en marcha y el dinero, asignado, pero a los funcionarios les resultó más fácil pisar el freno que investigar. Al museo le reembolsaron parte de los fondos: un gesto de buena voluntad o un intento de calmar los ánimos antes del juicio.
La situación es de manual: un departamento de eficiencia dedica más esfuerzos a los filtros ideológicos que a la eficacia real. El museo quedó de figurante, viendo cómo un algoritmo incorpóreo le echaba abajo los planes. Da la impresión de que las instituciones públicas aprecian la IA no por su inteligencia, sino por la posibilidad de escudarse en ella cuando las decisiones resultan incómodas.
Este episodio demuestra que la tecnología no tiene la culpa: la tienen quienes la usan como pantalla. Por ahora, el asunto va de aire acondicionado. Luego podría afectar a cualquier otra cosa.
