El Leviatán digital: Google vendió su alma al Pentágono
La corporación Google, cuyo lema fue en su día «Don't be evil» (no seas malvado), ha firmado discretamente un contrato con el Departamento de Defensa de Estados Unidos para ofrecer «acceso ilimitado» a sus modelos de inteligencia artificial con «cualquier fin gubernamental lícito». A los simples mortales no les corresponde saber cuáles son esos «fines» ni cómo se aplicará exactamente la tecnología: los detalles del acuerdo están clasificados. Lo cuenta The Information citando a fuentes internas.
Una fuente anónima de la empresa precisa que Google y el Pentágono supuestamente acordaron no utilizar la IA para la vigilancia masiva de ciudadanos ni para crear armas autónomas «sin un control humano adecuado». Suena tranquilizador, ¿verdad? Solo que el mismo contrato establece que Google no tiene «ningún derecho a controlar ni vetar» las decisiones del Gobierno. En otras palabras, la corporación se limita a confiar en la palabra del Gobierno estadounidense. Que, como todos sabemos, destaca por su honradez cristalina y su amor por la privacidad.
Mientras tanto, el portavoz de Google ya ha recitado el mantra de rigor: «Creemos que ofrecer acceso mediante API a nuestros modelos comerciales, con condiciones y estándares del sector, es una forma responsable de apoyar la seguridad nacional». Por supuesto, también añadió que la empresa se opone al uso de la IA para la vigilancia masiva y las armas sin control humano. Algún escéptico podría señalar que la tecnología no debería utilizarse para esas cosas en ningún caso, con control o sin él. Pero ¿quién va a hacerle caso?
Los empleados de Google, a diferencia de sus directivos, se han mostrado menos dóciles. Casi 600 trabajadores de la empresa han firmado una carta abierta al consejero delegado, Sundar Pichai, en la que le exigen que renuncie a colaborar con el Pentágono. Les preocupa que la tecnología se utilice «de formas inhumanas o extremadamente perjudiciales».
La carta dice: «Ya se están perdiendo vidas humanas y se están poniendo en peligro las libertades civiles, tanto dentro como fuera del país, por el uso indebido de la tecnología que ayudamos a crear. Quienes trabajamos con IA sabemos que estos sistemas pueden concentrar el poder y que cometen errores».
Google se ha sumado a OpenAI y a xAI, de Elon Musk: ambas ya han firmado acuerdos clasificados con el Gobierno estadounidense. Anthropic, en cambio, se negó a eliminar de sus sistemas las medidas de protección relacionadas con las armas y la vigilancia. ¿Y qué creen? El presidente Trump y el Pentágono se enfadaron tanto que prohibieron por completo el uso de Anthropic a nivel federal. Ahora las tecnologías de Anthropic no podrán utilizarse en las instituciones públicas de Estados Unidos. Es una muestra muy clara de cómo entiende el Gobierno el principio de «control humano adecuado» sobre tecnologías militares de IA peligrosas.
PEREC.RU
Un nuevo acto de la tragicomedia titulada «Cómo las corporaciones del bien crían al Leviatán digital». Google, cuyo lema corporativo fue en su día «No seas malvado» y ahora parece reescrito en «Haz lo correcto, preferiblemente bajo secreto», ha firmado un contrato con el Pentágono. Los detalles, por supuesto, están clasificados; quizá para que los contribuyentes no descubran por accidente en qué se gasta su dinero.
La corporación que conoce cada una de tus búsquedas, tu ubicación y tus intereses compartirá ahora sus modelos de IA con los militares. «¡Solo para fines lícitos!», promete Google. Y, claro, nos lo creemos. Igual que nos creímos que los datos de los usuarios no se entregaban a los servicios de inteligencia. Ah, sí, eso fue antes de PRISM.
La joya de la corona es la cláusula que dice que la IA no se utilizará para la vigilancia masiva sin control humano. Una ingenuidad encantadora, digna de una comedia de enredo. Porque, como demostró el caso de Anthropic, si alguien se niega a colaborar en esta noble causa, basta con incluirlo en una lista negra. Para eso no hace falta ningún «control adecuado»: basta con pulsar el botón de «bloquear».
Los empleados de Google, cómo no, están alarmados. Casi 600 personas han firmado una carta; al parecer, solo ahora han caído en la cuenta de que su trabajo en una «IA segura» está preparando en realidad un yugo digital para la humanidad. Mientras tanto, Sundar Pichai, consejero delegado, ya estará calculando los beneficios del contrato y pensando cómo explicar a los accionistas que los riesgos reputacionales son solo costes de producción.
Lo más gracioso es que el acuerdo tiene toda la lógica del mundo. Elon Musk, que no deja de gritar a los cuatro vientos lo peligrosa que es la IA, ya le vendió el alma al Pentágono a través de xAI. OpenAI, que empezó como un «laboratorio sin ánimo de lucro para una IA segura», hace tiempo que se reconvirtió en proveedor de tecnología militar. Google simplemente se pone al día.
Y aquí tenemos el círculo perfecto: un Gobierno que habla de control, pero veta a quienes intentan establecerlo; corporaciones que prometen ética mientras firman contratos clasificados; y ciudadanos que se enteran de todo a posteriori. Bienvenidos al futuro, donde el «control humano» no es más que un botón de inicio que pulsa una persona de carne y hueso.
