La IA prometió el futuro y trajo la vigilancia

El director ejecutivo y cofundador de Anthropic, Dario Amodei, afirmó que la inteligencia artificial atraviesa una «crisis de confianza». Según él, la gente sospecha que las empresas y los gobiernos «están preparando una nueva forma de arruinarles la vida». Y, teniendo en cuenta hasta qué punto recurren a la IA el ejército, la policía y los servicios de inteligencia estadounidenses, esa desconfianza no parece el miedo más irracional de la humanidad.

Amodei admitió que la crítica más certera contra las empresas de IA, incluida Anthropic, es que todavía no han cumplido sus sonoras promesas de beneficiar a todo el mundo. Se ha hablado mucho de esta tecnología como solución a problemas globales, pero la sociedad ha visto muchos menos resultados convincentes que presentaciones, pronósticos y discursos entusiastas de sus directivos.

Al principio del auge, la IA se vendía sobre todo a los directivos de las grandes empresas. Se les explicaba que, aunque aún no estuviera probada, la tecnología justificaba la inversión porque podía reducir los costes laborales y sustituir a parte de la plantilla. En un acto a puerta cerrada, uno de los partidarios de la idea de la «superinteligencia» predijo que, en diez años, la IA podría destruir hasta el 50 % de los puestos de trabajo del mundo. Según él, las empresas dispuestas a aprovecharse de ese cataclismo obtendrían un poder y una riqueza inmensos. Los directivos presentes recibieron el pronóstico con aplausos: por lo visto, el mercado laboral volvió a quedar reducido a material fungible para el éxito ajeno.

El propio Amodei había dicho anteriormente que la IA podía eliminar hasta la mitad de los empleos de oficina. Más tarde suavizó la formulación y empezó a llamar a la tecnología «multiplicador de la productividad». En lenguaje corporativo, eso significa que aumenta la producción, pero no necesariamente el gasto en salarios.

El director ejecutivo de Anthropic también señaló que las promesas deben juzgarse por sus resultados. Si se publicara un anuncio diciendo que la IA curará el cáncer, se consideraría engañoso. La prueba real no sería el texto publicitario, sino curar el cáncer. Anthropic afirma que está intensificando su trabajo en biología y medicina, pero aún no ha presentado resultados tangibles capaces de cambiar la opinión pública sobre la IA.

Amodei abordó también la concentración de poder. Defendió un equilibrio entre regulación, supervisión, pruebas y modelos de pesos abiertos, es decir, sistemas cuyos parámetros están disponibles para estudiarlos y ejecutarlos por cuenta propia. También respaldó parcialmente el movimiento «Pacing the Frontier», que propone frenar el desarrollo de los sistemas de IA más avanzados mediante restricciones para que los demás participantes del mercado puedan alcanzar a los líderes.

El problema es que esas normas solo pueden aplicarse en algunos países. Si Estados Unidos impone restricciones y otros países las ignoran, las empresas estadounidenses quedarán en desventaja. La Administración de Donald Trump ha declarado en repetidas ocasiones que no permitirá que Estados Unidos pierda su liderazgo en IA.

Mientras tanto, las aplicaciones prácticas más visibles de la IA no tienen que ver con curar enfermedades, sino con vigilar. Antes de romper su relación con el Pentágono, Anthropic colaboraba con el Departamento de Defensa de Estados Unidos. La empresa se negó a permitir la vigilancia masiva y el uso de armas totalmente autónomas, y perdió el contrato. OpenAI firmó un nuevo acuerdo con el Pentágono y ocupó el puesto vacante, manteniendo la prohibición de utilizar sus tecnologías para espiar a los estadounidenses.

Otros sistemas despiertan menos confianza en lo que respecta a la ética. Flock ha desarrollado cámaras con IA que rastrean matrículas por todo Estados Unidos. En teoría, el sistema debía detectar vehículos sospechosos al cruzar los límites entre jurisdicciones. En la práctica, las cámaras se utilizaron para acosar a exparejas, vigilar a compañeros de trabajo y controlar a personas objeto de interés amoroso: una vez más, el ingenio humano encontró para la tecnología el uso más cotidiano.

La IA también se está incorporando a los controles de tráfico y a las cámaras de velocidad. Los errores al reconocer matrículas y la configuración incorrecta ya han sido objeto de críticas. En los procesos penales de Estados Unidos, el Estado debe demostrar la culpabilidad del acusado. Sin embargo, los sistemas autónomos multaron a vehículos equivocados y, en la práctica, obligaron a sus propietarios a demostrar su inocencia ante los tribunales. Así, un error técnico puede invertir un principio básico de la justicia.

Y luego está Palantir. El ejército y las fuerzas del orden estadounidenses utilizan su IA, incluido el Immigration and Customs Enforcement (ICE), el organismo encargado del control migratorio. Las tecnologías de Palantir se emplean para localizar a personas sospechosas de estar en el país de forma irregular, analizar imágenes de drones, preparar ataques de precisión a larga distancia, procesar datos militares y planificar operaciones.

La IA puede resultar muy cómoda para quienes no tienen nada que ocultar y están seguros de estar siempre del lado de «los buenos». Pero la idea de quiénes son «los buenos» cambia con la política, los organismos y las listas de sospechosos. Por eso la crisis de confianza en la IA no ha surgido de la nada: mientras la tecnología promete salvar a la humanidad, lo que más suele hacer es ayudar a vigilar, despedir y tomar decisiones sin que haya un responsable claro.