Jensen Huang y el precio de una IA sin freno

El consejero delegado de Nvidia, Jensen Huang, habló de inteligencia artificial, educación, energía, China y regulación tecnológica en una extensa entrevista con The New York Times. Sus palabras sonaron especialmente contundentes porque Nvidia fabrica chips esenciales para los sistemas de IA actuales y la compañía se ha convertido en una de las más valiosas del mundo. Huang lleva décadas al frente del negocio, se hizo multimillonario en 1999 y defiende el rápido desarrollo de la IA con una regulación mínima.

La conversación la condujo el columnista Ezra Klein. Propuso entender la IA como una «tarta de cinco capas»: aplicaciones, modelos, infraestructura, chips y energía. En este sistema, Nvidia ocupa un lugar especialmente importante: suministra el equipo informático sin el cual sería mucho más difícil entrenar modelos grandes.

Una de las afirmaciones más polémicas de Huang tuvo que ver con las habilidades. Al hablar de estudios en China según los cuales la IA ayuda al principio a los escolares a trabajar más rápido, pero reduce de media sus resultados en los exámenes casi un 20 %, dijo: «Hay muchas habilidades que no importan». Según Huang, la gente ya está olvidando las tablas de multiplicar y las raíces cuadradas, pero, a su juicio, eso no tiene por qué ser un problema: las capacidades perdidas pueden sustituirse por otras nuevas.

Los críticos replican que las matemáticas básicas no solo sirven a los matemáticos. Permiten comprobar cálculos, detectar errores y no dar por cierta la respuesta de un algoritmo simplemente porque parece segura de sí misma. Si la gente deja de entender las operaciones elementales, nadie podrá comprobar el trabajo de la IA, salvo otra IA; un sistema de control bastante dudoso, por decirlo suavemente.

Huang también confesó: «No sé cuál es mi dirección». Explicó que se dio cuenta en una gasolinera, cuando necesitó el código postal para autorizar un pago y le entró el pánico. A la mayoría de la gente le resultaría extraña una situación así: hay que poner la dirección de casa en documentos, facilitarla a los servicios de reparto y recordarla al viajar. El episodio se convirtió en un símbolo de la distancia entre la vida de un directivo de una gran tecnológica y la experiencia de la gente corriente.

Al hablar de la competencia con China, Huang apenas criticó a Pekín. Anteriormente había pedido a la Administración estadounidense que permitiera a Nvidia seguir vendiendo chips de IA a China. Aun así, señaló que el mercado estadounidense recibe primero las tecnologías más recientes. Describió el sistema chino como sólido por su gran número de científicos, matemáticos e ingenieros, además de por una comunidad de desarrolladores de modelos abiertos «muy activa». Según Huang, China produce ingenieros y «niños inteligentes» a gran escala, literalmente.

En cambio, reprochó a sus colegas estadounidenses su alarmismo y sus pronósticos sombríos. Huang cree que las advertencias sobre un posible desarrollo catastrófico de la IA asustan a la sociedad e impiden que Estados Unidos se beneficie de la tecnología. Insiste en que la IA sigue siendo un programa que funciona dentro de un sistema operativo y que no hay que atribuirle cualidades humanas.

Huang se mostró especialmente duro con Geoffrey Hinton, premio Nobel al que a menudo llaman uno de los «padrinos de la IA». Cuando Hinton estimó en torno al 10 % la probabilidad de que la IA desbarate el orden social tal como lo conocemos, Huang respondió: «Eso es irresponsable», y añadió: «Que lo diga un científico no convierte la afirmación en científica». Los críticos consideran que esa respuesta no examina los argumentos de Hinton, sino que se limita a declarar que no merecen debate.

Al hablar de los centros de datos, Huang reconoció que los superordenadores de IA son eficientes desde el punto de vista energético, pero aun así consumen cantidades enormes de electricidad. Dijo que las empresas deben ser transparentes y que, si los vecinos no quieren ver un centro de datos en su ciudad, «que así sea». Al mismo tiempo, admite que la generación propia de energía y una reducción de la carga fiscal para los residentes locales podrían, con el tiempo, hacer que estas instalaciones resultaran beneficiosas para las zonas donde se ubiquen.

Las palabras más polémicas de Huang fueron las relativas al clima y los combustibles fósiles. Afirmó que, debido a las disputas sobre el cambio climático y la energía sostenible, Estados Unidos no ha aumentado lo suficiente su producción energética. A su juicio, a corto plazo habrá que recurrir a los combustibles fósiles para incrementar la generación. No respondió directamente si considera que el cambio climático sea una amenaza real y centró su respuesta en la competencia energética con China y en las crecientes necesidades de la IA.

Huang sostiene que, para lograr un futuro sostenible, hay que desarrollar más activamente la IA. Comparó esta tecnología con la cirugía: para salvar al paciente, el médico primero le causa dolor. No precisó qué «dolor y sufrimiento» serían aceptables para la sociedad.

Al final de la entrevista, Huang dijo que, si los desarrolladores ven que la IA se les va de las manos, deben detener el sistema y no lanzar el producto. Pero no respondió en detalle a las preocupaciones de que los modelos actuales ya muestran comportamientos impredecibles durante las pruebas. El principal problema que señalan los críticos sigue siendo el mismo: quienes deciden el rumbo de la IA deben comprender mejor las consecuencias de sus decisiones para quienes no son dueños de las grandes empresas y no pueden resolver de una llamada un problema con su propio código postal.