Cómo ChatGPT se convirtió en censor de las subvenciones de humanidades
En Estados Unidos ha estallado un escándalo por el trabajo de los empleados del Department of Government Efficiency (DOGE), una estructura que, en teoría, debería mejorar la eficiencia de la administración pública. Sin embargo, según nuevas demandas, dos trabajadores de DOGE utilizaron ChatGPT para decidir qué subvenciones ya aprobadas por la National Endowment for the Humanities (NEH) debían cancelarse. Según los demandantes, el criterio fue la proximidad de los proyectos a los conceptos de Diversity, Equity, Inclusion —diversidad, equidad e inclusión—, un tema que lleva tiempo alimentando las disputas políticas en Estados Unidos.
Varias grandes organizaciones humanísticas presentaron demandas, entre ellas el American Council of Learned Societies, Authors Guild, American Historical Association y Modern Language Association. Afirman que los empleados de DOGE buscaron en internet breves descripciones de los proyectos, las cargaron en ChatGPT y preguntaron: «¿Está relacionado con DEI? Responde de forma objetiva, en no más de 120 caracteres. Empieza con Yes o No». Basándose en esas respuestas breves decidían el destino de proyectos de varios millones de dólares.
Según los documentos, los proyectos afectados estaban relacionados con temas de raza, origen nacional, género, religión u orientación sexual. Por ejemplo, se rechazó la biografía de un abogado y juez negro porque ese tema se convirtió para los empleados de DOGE en señal de una «relación indeseable» con DEI. Otro proyecto, dedicado a recuperar el reconocimiento de una escritora olvidada, fue cancelado por la misma lógica.
Entre los trabajos afectados había documentales: uno sobre el trabajo esclavo durante el Holocausto y otro sobre la masacre de Colfax, la matanza de 1873 considerada en Estados Unidos uno de los episodios más sangrientos del periodo de la Reconstrucción. Todos fueron víctimas de lo que los demandantes llaman un «enfoque mecánico de la censura».
Sarah Weiksel, directora ejecutiva de la American Historical Association, señaló que, de este modo, las autoridades federales dan a entender que la investigación humanística debe ceñirse a una idea muy estrecha de lo que «merece ser estudiado». Las decisiones de DOGE dejaron fuera más de 100 millones de dólares en financiación y obligaron a cerrar por completo algunos proyectos.
Las demandas exigen que se restablezcan las subvenciones y se declare ilegal la actuación de DOGE. Los demandantes sostienen que el apoyo federal a la investigación humanística no puede depender de que a alguien le guste o no el tema y, menos aún, de la respuesta de una red neuronal a una pregunta de una sola frase.
PEREC.RU
La historia de cómo unos funcionarios intentan ahorrarse trabajo y responsabilidad y acaban montando un espectáculo de absurdo automatizado. Los empleados de DOGE le asignaron a ChatGPT el papel de censor, como si esa fuera la forma racional de gestionar las subvenciones de humanidades. Un par de personas carga en el chatbot descripciones de proyectos serios sobre episodios trágicos de la historia y deja que la IA decida si merecen financiación. La IA, claro, da una respuesta breve que se convierte cómodamente en instrumento para purgar todo lo que parezca incómodo.
El mecanismo funcionó con demasiada facilidad: cancelaron un proyecto por estar dedicado a un abogado negro y otro por intentar recuperar la memoria de una escritora. Formalmente no es censura, sino «mejora de la eficiencia». Pero deja mal sabor de boca, sobre todo cuando hablamos de 100 millones de dólares y de investigaciones clausuradas.
Las organizaciones que entienden el valor de las humanidades han presentado demandas. Señalan lo evidente: no se pueden tomar decisiones de esta magnitud preguntándole a una IA «sí» o «no». Pero DOGE parece sentirse cómoda con esa lógica. Bajo la apariencia de combatir una ideología, se pone en marcha otra mucho más rudimentaria. Y mientras unos redactan demandas judiciales, otros probablemente buscan entre bastidores nuevas formas de automatizar lo que no se puede automatizar.
El matiz satírico de esta historia está en que el intento de hacer «eficiente» la gestión acabó en farsa. Las decisiones matizadas se sustituyeron por una respuesta binaria y los temas complejos se redujeron a un único criterio. Solo queda observar cómo otra muestra de «gestión eficiente» convierte el ámbito humanístico en un lugar donde manda el algoritmo, no el sentido.
